Künstliche Intelligenz (KI) und Cybersicherheit: Fluch oder Segen? Zukunft der Cybersicherheit

Veränderung der Cyberbedrohungslandschaft

Seit der Veröffentlichung generativer KI wie ChatGPT Ende 2022 ist das Potenzial Künstlicher Intelligenz auch der breiten Öffentlichkeit bewusst. Zu den Chancen, die KI-Modelle bieten, gesellen sich zugleich die Risiken, die mit ihnen einhergehen. Denn auch Cyberkriminelle nutzen die Technologie, um Einstiegshürden in fremde IT-Systeme zu durchbrechen und ihre Angriffsmethoden immer weiter zu verfeinern. Marc Dönges, Projektleiter ​Transferstelle Cybersicherheit im Mittelstand, erklärt: „Generative KI ermöglicht es, beispielsweise Phishing-Mails schneller und überzeugender zu erstellen, was sie schwerer erkennbar macht.“

Michelle Walther, Expertin für Social-Engineering-Angriffe, erläutert, warum gerade die Mitarbeitenden von Unternehmen davon betroffen sind: „Da Menschen oftmals beim Beantworten von E-Mails unter Zeitdruck stehen und durch KI die Phishing-E-Mails immer besser werden, ist es schwierig, diese E-Mails überhaupt als Social-Engineering-Attacken zu enttarnen.“

Weitere Cybersicherheits-Risiken von KI

Neben immer raffinierter werdenden Phishing-Methoden gibt es eine Vielzahl weiterer Risiken, die durch den Einsatz von KI im Bereich der Cybersicherheit entstehen. So ermöglicht KI es auch technisch weniger versierten Personen, überzeugende Phishing-Nachrichten oder einen schädlichen Code zu erstellen, die erheblichen Schaden anrichten. Selbst wer so gut wie keine Programmierkenntnisse besitzt, kann mithilfe der großen Sprachmodelle („Large Language Models“, kurz: LLM) über einfache Sprachbefehle („Prompts“) Malware erstellen.

In Zukunft könnte die Erzeugung solcher Schadsoftware sogar automatisiert werden. Laut einem ​Bericht des Bundesamtes für Sicherheit in der Informationstechnik (BSI) gibt es derzeit zwar noch keine produktionsreifen Modelle für die autonome Generierung und Mutation von Malware, jedoch wurde deren prinzipielle Machbarkeit bereits auf Konzeptebene nachgewiesen. Mithilfe solcher Modelle könnten Kriminelle Malware entwickeln, die sich automatisch an neue Sicherheitsmaßnahmen anpasst. Auch besteht die theoretische Möglichkeit, dass KI in die Funktionalität von Malware integriert wird, um deren Entdeckung zu vermeiden. Solche KI-gesteuerte Malware könnte sich dynamisch an verschiedene Umgebungen anpassen und ihre Erkennung erheblich erschweren. Ebenfalls noch Zukunftsmusik, aber bereits heute denkbar sind autonome Angriffsagenten, die Cyberattacken nahezu eigenständig durchführen. Diese Agenten könnten von selbst Ziele identifizieren, Schwachstellen analysieren, Angriffsstrategien planen und ausführen sowie sich dynamisch an Gegenmaßnahmen anpassen. Aktuell existieren sie nur als Proof of Concepts oder in akademischen Forschungsprojekten und sind glücklicherweise noch nicht einsatzbereit. Bereits heute wird KI allerdings genutzt, um Passwörter zu knacken und sogenannte Captchas zu umgehen, also Sicherheitsmechanismen, die der Unterscheidung zwischen Mensch und Maschine dienen. Angreifer nutzen auch hier bereits KI, um leichter Zugang zu geschützten Systemen zu erlangen und Sicherheitsbarrieren zu überwinden.

Chancen der KI in der Cybersicherheit

Umgekehrt kann KI aber auch dazu beitragen, die Cybersicherheit Ihres Unternehmens zu erhöhen. Zentral dafür ist die Fähigkeit von KI-Systemen, große Datenmengen zu analysieren und dabei ungewöhnliche Muster zu erkennen, die auf Cyberangriffe hinweisen. Durch die Nutzung dieser Technologien können Unternehmen Bedrohungen in Echtzeit erkennen und entsprechende Maßnahmen ergreifen.

Ein weiteres Feld der KI-Nutzung ist die automatische Erkennung von Sicherheitslücken. Dieses Thema ist derzeit ein aktives Forschungsfeld und hat bereits zur Entwicklung mehrerer Open-Source-Tools sowie kommerzieller Produkte geführt. Die Tools spüren Schwachstellen in der IT-Infrastruktur eines Unternehmens auf, bevor sie von Angreifern ausgenutzt werden. Generative KI-Modelle auf Basis von LLMs sind ebenfalls in der Lage, Code auf Sicherheitslücken zu untersuchen und Verbesserungsvorschläge zu machen. Sie können auch bei der Erstellung von Security-Codes unterstützen, indem sie beispielsweise Filterregeln für Firewalls oder Regeln zur Erkennung von Schadsoftware erstellen. Damit erleichtern die Tools es Sicherheitsexpertinnen und -experten, effektive Schutzmechanismen zu implementieren und auf dem neuesten Stand zu halten.

Darüber hinaus lässt sich KI zur Analyse von Datenverkehr anwenden. Durch die automatisierte Sichtung von Sicherheits- und Logdaten kann KI bösartigen Netzwerkverkehr erkennen und entsprechende Alarmierungen auslösen, sodass etwa Phishing-Mails besser identifiziert und unschädlich gemacht werden können. Diese Fähigkeit zur Echtzeitanalyse von Datenströmen ermöglicht es Unternehmen, ihre Netzwerke besser zu schützen und schneller auf potenzielle Bedrohungen zu reagieren.

Perspektivisch wird die Bedeutung von KI in Cybersicherheitssoftware also an Bedeutung gewinnen und KI in immer mehr Anwendungen enthalten sein.

Deepfakes und die Verteidigung durch KI

Ein in Zukunft immer wichtiger werdendes Einsatzgebiet von KI ist die Erkennung von sogenannten Deepfakes. Mithilfe von KI erstellte Videos oder Audiodateien simulieren dabei täuschend echt das Aussehen und die Stimme einer echten Person. Ein bekanntes Beispiel ist der Vorfall im Juni 2022, bei dem die Berliner Bürgermeisterin Franziska Giffey einem gefälschten Videotelefonat aufsaß. Während des Gesprächs bemerkte Giffey, dass sie es statt mit dem Bürgermeister von Kiew, Vitali Klitschko, mit einem digitalen Schwindel zu tun hatte, und beendete die Konferenz. Der Fall zeigt, wie realistisch und entsprechend schwer zu erkennen Deepfakes schon heute sein können. KI wird daher auch für die automatisierte Erkennung von solchen Deepfakes eine wichtige Rolle spielen, um Falschinformationen und Betrugsversuche rechtzeitig zu erkennen und zu verhindern.

Empfehlungen für KMU: Chancen nutzen und Risiken minimieren

Für Unternehmen stellt sich die Frage, wie sie die Vorteile der KI nutzen können, ohne den Risiken zum Opfer zu fallen. Da Cyberkriminelle häufig kleine und mittlere Unternehmen ins Visier nehmen, sollten sich auch KMU mit der Frage beschäftigen, wie sie KI zur Abwehr von Cybergefahren einsetzen. Hier einige Empfehlungen:

1. Schulung der Mitarbeitenden: Sensibilisieren Sie Ihre Mitarbeitenden für die Möglichkeiten, die KI Cyberkriminellen bietet. Regelmäßige Schulungen und Updates zu aktuellen Bedrohungen sind essenziell.
2. Richtlinien entwickeln: Etablieren Sie klare Richtlinien für den Einsatz von generativer KI innerhalb Ihres Unternehmens. Achten Sie darauf, dass die Nutzung dieser Technologie den Datenschutzbestimmungen entspricht. Klären Sie, wohin die Daten fließen und wie die KI vor Zugriffen von außen beziehungsweise vor Manipulationen geschützt wird.
3. Resiliente IT-Infrastruktur: Bauen Sie eine robuste IT-Infrastruktur auf, die schnell auf neue Bedrohungen reagieren kann. Regelmäßige Sicherheits-Updates sind hierbei unerlässlich.
4. Kontinuierliche Beobachtung: Da sich die Cyberbedrohungen ständig wandeln, ist es wichtig, stets auf dem Laufenden zu bleiben und neue Entwicklungen in der KI und Cybersicherheit zu beobachten.

Fazit: KI ist in Sachen Cybersicherheit ein zweischneidiges Schwert

Die Integration von KI in die Cybersicherheitsstrategie bietet KMU die Möglichkeit, Verteidigungsmaßnahmen zu optimieren und sich besser gegen immer raffiniertere Angriffe zu schützen. Doch auch die Risiken sollten Sie nicht unterschätzen. Durch eine ausgewogene Strategie, die sowohl die Chancen als auch die Gefahren berücksichtigt, wappnen Sie Ihr Unternehmen effektiv gegen die Bedrohungen der digitalen Welt und schöpfen zugleich die Potenziale der KI voll aus. Informationen und Unterstützung dafür bieten Ihnen die ​Transferstelle Cybersicherheit im Mittelstand sowie jedes Mittelstand-Digital Zentrum in Ihrer Nähe.