Wie GenAI bestehende Angriffstechniken verbessert
Die erfolgreichsten Angriffstechniken heutzutage basieren auf einer Kombination aus Social Engineering und Malware-Einsatz. Angreifer beginnen in der Regel damit, menschliches Verhalten zu manipulieren, um sich einen Zugang zu verschaffen – zum Beispiel durch Täuschung oder Phishing. Sobald der Zugang hergestellt ist, setzen sie bösartige Software ein, um Systeme zu infiltrieren, Daten zu stehlen oder den Betrieb zu stören. Dieser doppelte Ansatz zielt sowohl auf Menschen als auch auf Technologien ab und macht moderne Angriffe deutlich raffinierter und schwerer abzuwehren.
Social Engineering
Social Engineering existiert seit jeher in menschlichen Interaktionen und bildet die Grundlage für eine Vielzahl von Betrugsformen. Im Bereich der Informationssicherheit wird Social Engineering als Taktik definiert, um Menschen dazu zu bringen, geheime oder persönliche Informationen preiszugeben (Suker, 2021). Praktisch nutzt Social Engineering menschliche Eigenschaften wie Hilfsbereitschaft, Vertrauen, Angst und Respekt aus. Diese Eigenschaften werden gezielt instrumentalisiert, um Opfer auszuwählen und den Angreifern ihre Ziele zu ermöglichen (BSI).
Die zunehmende Integration von Künstlicher Intelligenz (KI) in Cyberangriffe markiert einen entscheidenden Schritt in der Evolution von Social Engineering. Heute ist Phishing die häufigste Methode, um Organisationen und Systeme zu infiltrieren. Laut Berichten „bleibt es eine der Top-Aktivitäten bei Sicherheitsverletzungen und ist die häufigste Form von Social Engineering“, (Verizon, 2025 DBIR).
Phishing bezeichnet das Täuschen von Personen, um Informationen zu erhalten oder Malware zu verbreiten, traditionell über E-Mail, SMS oder Telefonanrufe. Zuerst sammelt der Angreifer Informationen über sein Ziel, z. B. welche Technologien genutzt werden, sowie soziale Informationen wie Schwächen der Person und deren Rolle in der Organisation. GenAI beschleunigt die Geschwindigkeit, mit der Angreifer sowohl technische als auch soziale Aufklärungsarbeit durchführen können.
Anschließend erstellt der Angreifer die Phishing-Mail, um das Ziel dazu zu bringen, auf einen schädlichen Link zu klicken oder einen infizierten Anhang zu öffnen. Früher wurden Phishing-Versuche meist an schlechter Grammatik oder Links zu verdächtigen Webseiten erkannt. GenAI ermöglicht es jedoch, grammatikalisch einwandfreie E-Mails zu erstellen und vielfältige Vorlagen zu nutzen, z. B. für Führungskräfte. Dies senkt die Barrieren, überzeugende Phishing-Mails zu erstellen, erheblich (Salahdine & Kaabouch, 2019; Suker, 2021).
Angreifer können außerdem Bots mithilfe von GenAI trainieren, die ihre Arbeit übernehmen. Diese Bots führen Aufklärungsaufgaben durch und versenden die Phishing-Mails an eine deutlich größere Zielgruppe. Wir erreichen einen Punkt, an dem es deutlich schwieriger wird, echte Menschen in Online-Diskussionen von Bots zu unterscheiden, die ganze Gespräche führen können, ohne den Charakter zu verlieren. Dieses Problem ist nicht mehr hypothetisch: In einem Experiment setzten Forscher KI-gestützte Bots auf Reddit ein, die persuasive, menschenähnliche Gespräche mit echten Nutzern führten – ohne dass diese es bemerkten – und zeigten, wie leicht GenAI für Manipulationen im großen Maßstab eingesetzt werden kann (The Atlantic, 2025).
Phishing-Versuche werden nun auch durch Deepfakes unterstützt, also hochrealistische Audio- oder Videoimitate, die maschinelles Lernen nutzen, um menschliche Schwächen überzeugender und präziser auszunutzen.
Wie aktuelle wissenschaftliche Arbeiten zeigen, ermöglicht Deepfake-gestütztes Phishing Angreifern, visuelle und auditive Täuschung mit traditionellen E-Mail-basierten Social-Engineering-Taktiken zu kombinieren (Machetanz et al., 2024). Ein eindrucksvolles Beispiel betraf einen Betrüger, der eine KI-generierte Stimmenklonung nutzte, um ein Familienmitglied in Not zu imitieren und so emotionale Manipulation am Telefon zu erreichen (The Independent, 2023). Es ist mittlerweile möglich, Medien so realistisch zu produzieren, dass sie fast nicht von authentischen Aufnahmen zu unterscheiden sind. Europols Electronically Organised Crime Threat Assessment 2025 (IOCTA 2025) hebt hervor, dass aufkommende Technologien wie KI-gestütztes Stimmenklonen und Live-Video-Deepfakes die Bedrohung durch Betrug, Erpressung und Identitätsdiebstahl erhöhen und es Kriminellen ermöglichen, Social Engineering und Identitätsbetrug in großem Maßstab zu betreiben (Europol 2025).
Dies erschwert die rechtzeitige Erkennung und Prävention von gezielten Desinformationskampagnen, manipulativen Social-Engineering-Angriffen und der Verbreitung falscher Informationen erheblich (Martinek & Bartuzi-Trokielewicz, 2025, Khanjani et al., 2023).
Entwicklung von Malware oder anderer schädlicher Software
Manche argumentieren, dass GenAI die Wissensbarriere für den Einstieg in Malware-Programmierung senkt, dies ist jedoch stark übertrieben. Die Hürde war bereits niedrig, angesichts frei verfügbarer Trainings, Foren und Ressourcen; GenAI wird diese Ressourcen nicht ersetzen. Da GenAI die Programmierung insgesamt verbessert, gilt dies auch für Malware. GenAI hilft den schlechten und mittelmäßigen Programmierern, besser und schneller zu sein, als sie es alleine wären. Es fungiert als deutlich fortgeschrittenere Plattform, vergleichbar mit GitHub oder Stack Overflow.
Ein Phänomen namens „vibe hacking“ nimmt zu. Während „vibe coders“ GenAI nutzen, um funktionierende Anwendungen zu erstellen, beschreiben „vibe hackers“ ihre kriminellen Absichten einem KI-System, das diese dann umsetzt und den Angriff generiert (Wired, 2024, Anthropic, 2025).
Seit der Veröffentlichung von GenAI wurden verschiedene Gegenmaßnahmen implementiert, um die Erstellung potenziell schädlicher Inhalte zu verhindern. Angreifer können diese jedoch umgehen, indem sie GenAI vorgaukeln, ihre Anfrage sei rein zu Forschungs- oder Fiktionalzwecken (Bhaimiya, 2023). Berichte zeigen auch, dass Angreifer „Jailbreaking“-Techniken nutzen, um Schutzmaßnahmen von GenAI zu umgehen und Schadcode zu erzeugen (MIT, 2024).
Hinzu kommt, dass die Nutzung von GenAI nicht automatisch böswillige Absichten bedeutet. Google Cloud Threat Intelligence berichtet seit einiger Zeit über die „Dual-Use“-Natur von GenAI, die sowohl produktiv als auch für schädliche Zwecke eingesetzt werden kann (Google Cloud Threat Intelligence, 2023).
In manchen Fällen ist es nicht einmal nötig, GenAI zu überzeugen, Malware zu erstellen. Manchmal möchten Nutzer einfach verhindern, dass ihr Antivirus Programm aktiviert wird, z. B. wenn legitime Tools Sicherheitsmaßnahmen auslösen. Grundlegende Prompts wie: „Wie konfiguriere ich meine Anwendung, damit der Firewall-Fehler nicht auftritt?“ zeigen, wie GenAI zur Umgehung von Sicherheitsmaßnahmen genutzt werden kann, selbst unbeabsichtigt.
Generell gilt: GenAI wird keine Super-Hacker aus kleinen Kriminellen machen, aber mittelmäßige Hacker erhalten deutlich mehr Wissen und Fähigkeiten. GenAI stärkt nicht nur klassische Angriffe, sondern eröffnet auch neue Angriffsformen, die im nächsten Abschnitt beschrieben werden.
Wie KI neuartige Angriffsmethoden erleichtert
Anthropic berichtete Mitte September 2025 über die erste großangelegte Cyber-Spionagekampagne, die überwiegend von einem agentischen KI-Modell autonom durchgeführt wurde, mit rund 30 globalen Zielen. Der Vorfall zeigt, wie fortschrittliche KI komplexe Aufgaben wie Aufklärung, Exploit-Entwicklung und Datenexfiltration mit minimalem menschlichem Input automatisieren kann – ein neuer Typ KI-gestützter Offensivbedrohungen, der traditionelle Sicherheitsabwehren herausfordert (Anthropic, 2025).
GenAI kann polymorphe Codes erzeugen, die sich bei jedem Einsatz leicht verändern und so traditionelle Erkennungsmethoden umgehen. Bedrohungsakteure können GenAI außerdem nutzen, um Malware dynamisch an die Umgebung anzupassen, z. B. durch Verzögerung der Ausführung bis nach der Sandbox-Erkennung oder das Nachahmen legitimer Systemprozesse.
Die Vorstellung, dass GenAI irgendwann selbstprogrammierende Malware ermöglicht, die sich autonom anpasst und Schwachstellen ausnutzt, ist derzeit noch übertrieben. Bisherige Studien dazu beschränken sich auf kontrollierte Entwicklungsumgebungen. Modelle wie FraudGPT und WormGPT wurden speziell für kriminelle Aktivitäten entwickelt und automatisieren Phishing, Malware-Erstellung und Social Engineering, wodurch selbst Nutzer ohne technische Expertise komplexe Cybercrime-Aktionen durchführen können (Falade, 2023, Korolov, 2024; Zhu et al., 2025).
Autonome Malware kann die Kommunikation mit Command-and-Control-Servern reduzieren, indem sie Entscheidungen eigenständig trifft. So kann Malware selbst priorisieren, welche Dateien extrahiert werden. Die Integration von GenAI ermöglicht z. B., Dokumente zu kategorisieren und bestimmte für Verschlüsselung oder Diebstahl zu priorisieren. Durch die reduzierte Kommunikation erhöht sich die Wahrscheinlichkeit, unerkannt zu bleiben.
Google’s Threat Intelligence Group berichtete über neue Malware-Familien (PROMPTFLUX, PROMPTSTEAL, PROMPTLOCK), die KI zur Laufzeit nutzen, um bösartige Skripte zu erzeugen und Code dynamisch zu verändern, um Erkennung zu vermeiden (Google Cloud, 2025). Theoretisch könnte die Malware-KI sogar mit GenAI-Systemen in den Zielsystemen kommunizieren, z. B. mit Copilot, um Erkennung zu vermeiden und Informationen aus den Zielsystemen zu nutzen.
Es gibt jedoch weiterhin eine große Lücke zwischen der Nutzung von GenAI zur Ausnutzung bekannter Schwachstellen und der Schaffung dynamisch adaptierender Systeme, die Angriffsketten selbstständig entwickeln. Solche Fähigkeiten dürften zunächst nur hochentwickelten Angreifern mit präzisen Zielen zur Verfügung stehen.
Wie Sicherheitsteams gegen GenAI-unterstützte Angriffe vorgehen können
Verteidiger können Täuschungstaktiken einsetzen, wie z. B. Honeypots (gefälschte veraltete Server, fiktive Finanzdaten). Honeypots können Malware-Varianten und Angriffe anlocken und so frühzeitig erkennen. Die Integration mit MITRE ATLAS (Adversarial Threat Landscape for AI Systems) ermöglicht die proaktive Simulation und Analyse von Angreiferverhalten bei KI-gestützten Bedrohungen (MITRE ATLAS, 2025). Die Secure AI with Threat-Informed Defense initiative (2025) erweitert die ATLAS-Datenbank und legt den Fokus auf KI-Red-Teaming, Adversary-Emulation und strukturierte Bedrohungscharakterisierung für den Missbrauch von KI.
Die beste Abwehr gegen Phishing bleibt eine Kombination aus Awareness, Prozessen und technischen Maßnahmen, die verdächtiges Verhalten blockieren oder warnen. Auch wenn Inhalte von Schulungen sich ändern, bleiben diese Grundlagen relevant. User Awareness, unterstützt durch automatisierte Anomalie-Erkennung, ist entscheidend für die Abwehr von GenAI-gestütztem Phishing (ENISA, 2025).
Die Programmierung von Malware mit GenAI kann von Anbietern nur begrenzt verhindert werden. Offensichtlich bösartige Software kann blockiert werden, für dual-use Anwendungen ist dies deutlich schwieriger. Kriminelle umgehen Einschränkungen oft, indem sie Open-Source- oder selbstgehostete Modelle ohne Guardrails nutzen.
Anpassung an GenAI-getriebene Bedrohungen
Neue, innovative Technologien werden immer von Angreifern ausgenutzt. GenAI bildet da keine Ausnahme. Es liegt in der Verantwortung der Sicherheitsexperten, diese Entwicklungen zu erkennen und ihre Abwehrmaßnahmen zu beschleunigen, um dem neuen Status quo gerecht zu werden.
So wie GenAI die Fähigkeiten von Angreifern stärkt, verstärkt es auch die von Sicherheitsforschern. Mit GenAI können Sicherheitsexperten enorme Mengen an Sicherheitsdaten und Logs deutlich effizienter analysieren als je zuvor.
