Die Vorstellung klingt verlockend: Künstliche Intelligenz könnte Malware so weit vorantreiben, dass Angreifer deutlich schwerer zu stoppen wären. Eine Analyse des Teams Unit 42 von Palo Alto Networks zeichnet jedoch ein deutlich nüchterneres Bild. KI beschleunigt Malware-Entwicklung offenbar vor allem dort, wo Angreifer schneller Varianten bauen und austesten können – nicht zwingend dort, wo diese Werkzeuge am Ende tatsächlich auf echten Systemen durchschlagen.
Für ihre Untersuchung sichteten die Forschenden 405 Malware-Samples, bei denen in irgendeiner Form ein KI-Bezug erkennbar war. Das Spektrum reichte von Ransomware, die teilweise mit LLM-Unterstützung erstellt wurde, bis hin zu Installern, die lediglich den Namen eines bekannten KI-Produkts übernahmen, ohne selbst echte KI-Funktionalität zu besitzen.
Fast alle KI-assoziierten Proben bleiben in der Testumgebung
Das auffälligste Ergebnis: Rund 97% der untersuchten Samples gelangten nicht bis zu einem realen Ziel. Stattdessen blieben sie in einer Sandbox, in Forschungs- oder internen Testumgebungen. Damit konnten sie zwar beobachtet, analysiert oder zum Teil sogar detektierten werden, erreichten aber nicht den Schritt „live“ auf echten Endpunkten im Feld.
Um diese Einordnung belastbar zu machen, verglich Unit 42 Dateihashes mit verschiedenen Datenquellen. Dazu gehörten Endpunkt-Telemetrie, Netzwerk-Sitzungen, die für die Sandbox-Analyse weitergereicht wurden, sowie interne Alarmaufzeichnungen, die ausgelöst werden, sobald ein Sample tatsächlich ausgeführt wurde.
Das Muster war klar: Nur 12 Hashes tauchten auf geschützten Endpunkten auf. In Netzwerk-Sandbox-Traffic zeigte sich eine etwas größere Gruppe von ungefähr 15 bis 20 Hashes. Und: Jedes der 12 Samples, das in den Live-Umgebungen erkannt wurde, löste auch eine Sicherheitswarnung aus.
Warum so wenige Samples in echt landen
Die Proben, die nie in Produktion oder auf echten Zielsystemen auftauchten, ließen sich grob in drei Gruppen einteilen.
1) Proof-of-Concept statt Angriffspraxis
Der größte Block bestand aus Proof-of-Concept-Code, also Code, der eine bestimmte Technik demonstrieren soll. Die Samples waren so konfiguriert, dass sie nur lokale oder private Netzwerke adressierten. Außerdem enthielten sie Debug-Ausgaben, die ein realer Angreifer typischerweise nicht im Produktivbetrieb zurücklassen würde. Viele dieser Stücke wurden zudem nur einmal hochgeladen – etwa durch ein Forschungs- oder Universitätsprojekt.
2) Tests gegen vorhandene Abwehrmaßnahmen
Eine zweite Gruppe war erkennbar durch wiederholte Uploads desselben Files in einem kurzen Zeitraum aus derselben Quelle. Unit 42 deutete das als Hinweise darauf, dass Organisationen eigene Schutzmaßnahmen testeten – also nicht, um heimlich zu kompromittieren, sondern um zu prüfen, wie gut bestehende Systeme reagieren.
3) KI-Branding als Köder
Die dritte Gruppe nutzte KI-Bezeichnungen vor allem als Lockmittel: Ein gewöhnlicher Payload wurde als Installer für bekannte KI-Produkte „verkleidet“. In diesen Fällen steckte hinter dem Namen keine echte KI-Funktionalität. Der Zweck lag stattdessen auf der Hand: Aufmerksamkeit, Erwartungshaltung und vielleicht auch eine gewisse Übermüdung bei Benutzern oder Security-Teams ausnutzen.
Die wenigen „Live“-Samples: keine Branchenkonzentration
Die 12 Samples, die tatsächlich auf Endpunkten auftauchten, verteilten sich über fünf Malware-Familien in drei Ländern. Dabei gab es keine auffällige Häufung in einer bestimmten Branche oder Region. Das spricht dafür, dass KI-Bezüge nicht auf einen speziellen Markt oder eine einzelne Zielgruppe beschränkt sind, sondern als allgemeines Muster in verschiedenen Kampagnen auftauchen kann.
FunkSec-Ransomware: Hinweise auf promptgetriebene Varianten
Die häufigste Familie in der Live-Gruppe war FunkSec, eine Ransomware-Variante, die mehrere Forschende mit einer möglichen LLM-Unterstützung in Verbindung gebracht haben. Besonders interessant sind dabei interne Projektdateinamen, die in den analysierten Samples enthalten waren: Sie zeigten, dass ein Entwickler verschiedene Namen für denselben Ransomware-Stamm ausprobierte.
Unit 42 ordnete dieses Tempo als eher passend zu einer promptgetriebenen Generierung ein, also einem schnelleren Erstellungs- und Variationsprozess als man ihn traditionell aus einem klassischen Software-Entwicklungszyklus erwartet.
Rezept-Suche als Masche: „Recipe Lister“
Das am weitesten verbreitete Sample war ein Installer, der sich als Anwendung zur Rezeptsuche ausgab – unter dem Namen Recipe Lister. Laut Unit 42 trug er eine digitale Signatur und startete nach der Installation still einen Backdoor-Prozess.
Die Verbreitung war beträchtlich: Das File wurde in mehr als 50 Organisationen beobachtet. Dabei entstanden etwa 6.500 Endpunktaufzeichnungen und ungefähr 9.600 Sicherheitsalarme. Anfangs galt die Signatur als so unauffällig, dass sie zunächst weniger Aufmerksamkeit erzeugte. Dennoch führte eine Kombination aus einem ungewöhnlichen Signierer und stark „gepackten“ bzw. verschlüsselten Dateiinhalten letztlich zur Entdeckung.
Oyster-Backdoor: Dropbox-Installer mit KI-getriebener Lieferkomponente
Eine weitere beobachtete Schadsoftware war ein Oyster-Backdoor. Sie tarnte sich als Installer für Dropbox. In dem Kontext war auffällig, dass die Signatur in der Darstellung „Dropbox“ als Publisher aufführte.
Unit 42 beschreibt, dass Angreifer zunehmend KI-Tools nutzen, um genau solche Zustell- und Liefercode-Komponenten schneller und kostengünstiger zu erzeugen. Dadurch lässt sich laut Bericht schneller eine erste Vertrauens- oder Einstiegssituation schaffen – etwa durch plausibel wirkende Installer.
Weitere Beispiele: Rhadamanthys und COM-Hijacking
Zusätzlich wurde ein Windows-Executable identifiziert, das den Rhadamanthys-Information-Stealer transportierte. Dieses Sample kommunizierte aktiv über Command-and-Control. Frühere Meldungen ordneten es bereits in eine Kette ein, die durch eine KI-gestützte Infektion unterstützt worden sein soll.
Schließlich tauchte auch ein fünftes Sample auf, das eine Komponente des chinesischen Security-Produkts 360 Total Security imitierte. Es nutzte eine Persistenztechnik namens COM hijacking. Unit 42 führte dieses Sample in das Datenset ein, weil es in Kampagnen vorkam, die parallel KI-assoziierte Köder nutzten. Gleichzeitig betonte das Team: Das Verhalten der Probe war nicht von KI abhängig.
Keine neuen Abwehransätze nötig: Bewährte Methoden reichen
Ein zentraler Punkt der Analyse lautet: Die bestehenden Schutzmechanismen erwischten die KI-assoziierten Proben mit denselben Verfahren, die auch für konventionelle Malware funktionieren. Unit 42 nannte unter anderem die Detonation in der Sandbox, verhaltensbasierte Erkennung, Auffälligkeiten in digitalen Signaturen sowie Kennzahlen dazu, wie stark Dateien gepackt oder verschlüsselt waren.
Damit ergibt sich ein praktisches Fazit: KI beschleunigt Malware-Entwicklung, aber sie führt derzeit nicht automatisch zu neuen, unentdeckbaren Techniken, die zwingend eine völlig neue Detektionslogik erfordern. Entscheidend bleibt, bekannte Muster konsequent zu überwachen und die Ausführungs- und Verhaltensspuren im Blick zu behalten.
Was diese Ergebnisse für die Sicherheitsplanung bedeuten
Für Security-Teams ist die Botschaft zweigeteilt. Einerseits zeigen die Daten, dass viele KI-assoziierte Samples den Schritt zur echten Kompromittierung nicht erreichen. Andererseits macht die Auswertung klar, dass Angreifer die Zeitgewinne nutzen können, um Varianten schneller zu bauen, auszutauschen und in unterschiedlichen Formen zu testen.
Gerade weil die Live-Proben bei jeder Ausführung zu Alarmen führten, lohnt sich der Fokus auf Ausführungs- und Verhaltensdetektion sowie auf die konsequente Überwachung von Signatur- und Dateistruktur-Anomalien. Wer diese Basics robust fährt, muss nicht auf jedes neue KI-Branding-Schema „von Null“ reagieren.
Fazit: KI erhöht Tempo, nicht automatisch die Erfolgsquote
Die Untersuchung von Unit 42 liefert eine klare Kernaussage: KI beschleunigt Malware-Entwicklung, doch die Erfolgsquote im Feld bleibt häufig gering. Die meisten KI-assoziierten Samples landen nicht auf realen Zielsystemen, sondern bleiben in Test- und Analyseumgebungen. Wenn sie jedoch tatsächlich ausgeführt werden, greifen die etablierten Schutzmechanismen zuverlässig.
In Summe zeigt der Befund nicht, dass Abwehr künftig machtlos wäre, sondern dass KI vor allem ein Werkzeug zur schnelleren Erstellung und Variation ist. Für Unternehmen heißt das vor allem: Prozesse, Detektion und Reaktion auf echte Ausführungssignale konsequent weiter stärken – dann bleibt auch der KI-Vorteil auf Angreiferseite begrenzt.
Quelle: https://www.securityweek.com/ai-speeds-up-malware-development-not-its-success-rate-analysis/
