Verleiht Künstliche Intelligenz kriminellen Hackern weiteren Auftrieb? So unterstützt KI Phishing-Scams

• ChatGPT und Co. ermöglichen personalisierte Phishing-Kampagnen
• KI erleichtert Programmierung von Malware
• KI kann auch zur Abwehr von Hacker-Attacken eingesetzt werden

Am 30. November 2022 erblickte der KI-gestützt Chatbot ChatGPT, der menschenähnlichen Text generieren und als Sprachassistent fungieren kann, das Licht der Welt. Im Gegensatz zu früheren Anwendungen kann er nicht nur lesen und schreiben sondern auch natürliche Sprache und kontextbezogenen Inhalte verstehen. Dass sich sein Entwickler, das US-Startup OpenAI, dazu entschied, den Prototypen frei verfügbar zu machen, bewirkte, dass das Thema "künstliche Intelligenz" in den Fokus der breiten Öffentlichkeit rückte. Dabei gehen die Meinungen teils weit auseinander. Während die einen das enorme Potential preisen, warnen andere vor möglichen Gefahren dieser Technologie.

Mitte Mai hat nun die Swisscom gewarnt, dass die Bedrohung durch AI-Based Attacks, d.h. Cyberangriffe, bei denen Künstliche-Intelligenz-Technologien zum Einsatz kommen, in den letzten Monaten stark zugenommen hat. Denn mittels KI können Hacker ihre Angriffe effektiver und effizienter durchführen. Mit Hilfe von KI können z.B. Phishing-Angriffe qualitativ deutlich verbessert oder Schwachstellen in Programmcodes aufgespürt werden. Dies geht aus dem "Cyber Security Threat Radar" hervor, den der Telekomkonzern, der auch im Bereich Kommunikation, Datenübertragung und IT-Dienstleistungen Partner vieler Schweizer Banken ist, am 15. Mai veröffentlicht hat.

Phishing-Mails werden glaubhafter

Der Missbrauch von KI für die Erstellung von Malware/Schadcodes und Phishing-Kampagnen wird künftig sicherlich zunehmen, prognostiziert die Swisscom und führt die wachsende Bedrohung darauf zurück, dass die entsprechenden öffentlich verfügbaren Tools einen regelrechten Evolutionssprung gemacht haben. Dazu zähle auch ChatGPT, der menschenähnliche Texte generieren und als Sprachassistent fungieren kann, so dass er auch dazu in der Lage ist, personalisierte Phishing-E-Mails überzeugender zu formulieren. Dadurch seien Phishing-Angriffe schwieriger zu enttarnen und könnten die Empfänger dazu verleiten, sensible Informationen preiszugeben oder schädliche Links anzuklicken, warnt Swisscom. Phishing ist in den meisten Fällen das Eintrittstor für Ransomware-Angriffe, bei denen Hacker über eine Schadsoftware in ein System eindringen, um dort Dateien zu verschlüsseln und dann ein Lösegeld für deren Freigabe fordern.

KI kann Schwachstellen aufspüren

Neben ihrem Einsatz für gezielte Phishing-Kampagnen mit völlig individualisierten, kontextabhängigen E-Mails können Sprachmodell-KIs zudem dazu missbraucht werden, um Programmcodes auf Schwachstellen hin zu analysieren und Malware zur Ausnutzung der gefundenen Schwachstellen, inklusive geeigneter Angriffsvektoren, zu programmieren. Das notwendige Know-how zur Durchführung komplexer Angriffe sinkt also weiter, ist im "Cyber Security Threat Radar" zu lesen.

KI kann auch bei der Abwehr helfen

Doch auf der anderen Seite kann KI auch genutzt werden, um Betrug und Cyberangriffe zu erkennen und abzuwehren. So kann sie beispielsweise dabei helfen, KI-generierte Texte oder KI-generiertes Bild- und Videomaterial zu erkennen. Ferner helfen Konzepte wie Zero Trust zum granular gesteuerten und authentifizierten Zugriff auf Daten und Ressourcen dabei, die Angriffsfläche von Unternehmen zu verringern.

"Während sich KI-Technologien rasant weiterentwickeln, müssen wir uns bewusst sein, dass sie nicht per se gut oder böse sind. Es handelt sich dabei vielmehr um ein Werkzeug, das für beide Zwecke genutzt werden kann. Die Herausforderung besteht darin, die Verteidigung weiter so zu stärken, damit auch KI-basierte Angriffe erfolgreich abgewehrt werden können - zukünftig zunehmend auch mit der Hilfe von ‹guter› KI", erklärte Florian Leibenzeder, Leiter Swisscom Security Operation Center.

Redaktion finanzen.ch