Direct naar de inhoud
Beveiligingsnieuws

AI-aanvalskaders: kwetsbaarheden sneller misbruikt

AI-aanvalskaders

Google Threat Intelligence Group (GTIG) ziet een duidelijke verschuiving in hoe aanvallers generatieve AI inzetten. Niet alleen voor losse onderdelen van een aanval, maar steeds vaker voor volledige ketens: van het zoeken naar kwetsbaarheden tot en met het bouwen en uitvoeren van exploits. In plaats van mensen die per stap handelen, worden processen geautomatiseerd tot op het niveau van “machine speed”. Dat is de kern van de zorg rondom AI-aanvalskaders.

Voor defenders betekent dit dat reageren niet meer genoeg is. Je moet ook voorkomen dat aanvallers werkstromen kunnen automatiseren, en je moet sneller kunnen detecteren wat ze doen — voordat een aanval zich verder uitbreidt.

Wat Google volgens GTIG precies heeft waargenomen

GTIG rapporteert dat er voor het eerst een dreigingsactor is geïdentificeerd die een AI-framework gebruikte om zowel kwetsbaarheden te ontdekken als te exploiteren, zonder dat er menselijke interventie nodig was. Het ging om een multi-agent framework dat onder meer werd ingezet om gepatchte en ongepatchte code in webapplicaties te vergelijken, vervolgens kwetsbaarheden te identificeren en daarna exploits te ontwikkelen.

Diezelfde inrichting bleek ook extra aanvalstaken in de keten te ondersteunen. Op de server stond niet alleen data die van slachtoffers was gestolen, maar ook scripts om na een succesvolle inbraak verder te gaan, zoals reconnaissance en het plaatsen van webshells.

Volgens GTIG leek er bovendien specifieke aandacht te zijn voor bepaalde sectoren, waaronder Franse media en entertainment en de educatiesector. Dat wijst erop dat het automatiseren van exploitontwikkeling niet willekeurig gebeurt, maar gekoppeld kan zijn aan gerichte doelselectie.

Van “multi-stage intrusions” naar aanvallen op machine-snelheid

Google beschrijft een bredere trend: aanvallers gebruiken meerdere AI-gedreven hulpmiddelen om de snelheid en schaal van hun operaties te verhogen. Daarbij draait het niet alleen om het versnellen van één stap, maar om het automatisch doorzetten naar volgende stappen in een intrusieketen.

In de rapportage worden verschillende frameworks genoemd die door dreigingsactoren zijn gebruikt of getest, waaronder Artex, Cairn, CyberStrikeAI en PentAGI. Het idee achter veel van deze aanpakken: LLM’s en agentic frameworks helpen bij het reverse-engineeren van patches en het “wapenbaar maken” van kwetsbaarheden zodra ze beschikbaar zijn. Daarmee wordt de doorlooptijd van ontwikkeling naar daadwerkelijke inzet korter.

GTIG gebruikt hiervoor duidelijke taal: de adoptie van dit soort frameworks is een paradigm shift. Intrusies zouden steeds vaker plaatsvinden met geautomatiseerde ketenvorming van complexe aanvalspaden, waardoor aanvallers hun activiteiten opschalen.

Een voorbeeld: exploit_agent op een exposed staging server

In het bijzonder noemt GTIG een framework dat in de logs en infrastructuur is teruggevonden op een staging server die zichtbaar was. Het doel van exploit_agent was specifiek gericht op het automatiseren van de workflow rondom kwetsbaarheden in webapplicaties.

Wat dit voorbeeld extra relevant maakt voor organisaties is de combinatie van functionaliteit: de aanvalspijplijn omvatte niet alleen het technisch identificeren en bouwen van exploits, maar ook het uitvoeren en vervolgstappen na compromittering. Dat vergroot de kans dat een gevonden kwetsbaarheid direct leidt tot controle binnen het systeem, zonder dat de aanvaller opnieuw moet “handmatig” opstarten.

Artex en andere open source varianten: wie gebruikt wat?

GTIG stelt dat Artex naar voren komt als het meest gebruikte AI-framework onder threat actors. Daarbij wijst het rapport ook op verschillen in gebruikspatronen. Met name Chinese-sprekende groepen zouden Artex veel inzetten, terwijl Google en Mandiant ook open source of experimentele varianten hebben gezien.

Zo wordt Cairn genoemd in verband met activiteiten richting de aerospace-sector in de VS. PentAGI wordt in dezelfde context aangehaald voor meer systematische reconnaissance en kwetsbaarheidsscans over organisaties in Azië. Het beeld dat daarmee ontstaat: frameworks worden niet alleen gebruikt voor éénmalige aanvallen, maar kunnen ook worden ingezet als onderdeel van herhaalbare “scanning → analyse → exploit → vervolgstappen”-werkstromen.

Daarnaast beschrijft GTIG dat een Chinese groep mogelijk een eigen geautomatiseerd aanvalskader heeft gebouwd, vermoedelijk bedoeld voor spionageactiviteiten. Dat is een extra reden om niet alleen naar bekende tools te kijken, maar breder te investeren in detectie en controle op werkstromen.

Nog meer hulpmiddelen: inference services en autonome agenten

Google noemt ook aanvullende componenten die de aanvalspijplijn kunnen versnellen. Een voorbeeld is een inference service die wordt genoemd in de context van exploitontwikkeling en het routeren van LLM-verkeer. Ook wordt gewezen op open source agent frameworks met eigenschappen zoals autonome code execution en dynamische tool generation.

Het belangrijkste takeaway is niet de exacte naam van ieder onderdeel, maar de functie: al deze bouwstenen kunnen samen zorgen voor een systeem dat zelfstandig meerdere beslissingen neemt, tools selecteert en stappen uitvoert.

LLMJacking en misbruik van AI-toegang: extra economische prikkel

Naast het offensieve misbruik van AI-aanvalskaders ziet GTIG ook een tweede groeigebied: aanvallers zoeken naar credentials die toegang geven tot LLM’s. Daarmee kunnen zij gebruik en rekenresources misbruiken via LLMJacking.

Het rapport noemt dat dit tot forse stijgingen in gebruik en facturatie kan leiden. In één geval werd resource abuse cumulatief gekoppeld aan een bedrag rond de $1 miljoen.

Verder beschrijft Google de opkomst van “LLM Mixers”: illegale marktplaatsen die toegang verkopen tot LLM-services en bijbehorende proxy-infrastructuur. Via gestolen credentials en compute-instanties sturen ze routing van verkeer via pools. Daardoor kunnen aanvallers meerdere modellen gebruiken, inclusief varianten die “jailbreak”-routes volgen.

Waarom dit voor beveiliging lastig is: meer lawaai in forensisch onderzoek

GTIG stelt dat brede adoptie van LLM’s in kwaadwillende operaties voor extra “forensic noise” kan zorgen. Dat kan OPSEC verslechteren en stealth beïnvloeden. Tegelijk is de dreiging nog steeds reëel: als een actor minder gericht is op langdurige onopgemerktheid, kan snelheid en schaal winnen van precisie.

Met andere woorden: minder stealth hoeft niet te betekenen dat de aanval minder effectief is. Door de hogere reach kan het totaalresultaat alsnog groeien, ook als individuele pogingen vaker mislukken.

Voor kritieke sectoren: patchen alleen redt het niet

Een opvallende waarschuwing gaat over kritieke infrastructuur. Google noemt sectoren waar patchen niet per maand lukt, zoals waterutilities, ziekenhuizen en regionale elektrische nutsbedrijven. Als kwetsbaarheden sneller dan mensenlijk beheer kunnen worden aangepakt, verschuift het gevecht naar snelheid.

Volgens de rapportage maakt AI het bovendien goedkoper en toegankelijker om geavanceerde cyberaanvallen uit te voeren. Taken die vroeger meerdere gespecialiseerde teams vereisten — van het vinden van kwetsbaarheden tot het exploiteren en doorbewegen binnen netwerken — kunnen steeds vaker worden overgedragen aan agenten.

Dat zet kleinere of minder ervaren groepen in de gelegenheid om krachtige capabilities te gebruiken die eerder buiten bereik lagen. Dit vergroot de noodzaak om niet alleen tooling te hebben, maar ook procesvolwassenheid.

Wat je nu kunt doen tegen AI-aanvalskaders

De kernopdracht voor defenders is tweeledig: enerzijds de basics op orde, anderzijds versnellen richting verdedigingsmaatregelen die net zo snel kunnen reageren als aanvallers automatiseren. Concreet kun je starten met maatregelen die de kans op misbruik verkleinen én de detectietijd verkorten.

1) Versnel patch- en kwetsbaarheidsmanagement

Zorg dat je risico-inschatting en patchplanning niet afhankelijk zijn van handmatig werk alleen. Maak prioriteiten gebaseerd op exploitbaarheid en blootstelling, zodat de meest impactvolle gaten eerder dichtgaan.

2) Detecteer aanvalspatronen, niet alleen tools

Omdat frameworks kunnen variëren, is het verstandig om te letten op gedrag: geautomatiseerde scanning, abrupte pieken in requests, het uitvoeren van vervolgscript-achtige patronen en het plaatsen van webshells.

3) Beperk toegang en voorkom dat agenten “door kunnen pakken”

Werk met segmentatie, least privilege en strakke toegangsregels. Als een aanval één systeem compromitteert, moet de keten zo snel mogelijk stoppen voordat exploitatie leidt tot verdere controle.

4) Bereid je voor op “autonome” ketens in plaats van losse incidenten

Door AI-aanvalskaders kan een incident sneller doorrollen naar de volgende fase. Herzie daarom je incident response: wie krijgt welke signalen, welke acties zijn vooraf goedgekeurd, en hoe snel kun je containment uitvoeren?

Als je meer wilt lezen over het tegengaan van autonome agenten, past ook het onderwerp AI supervision: zo voorkom je rogue agenten goed bij dit beeld. Het helpt om na te denken over controlemechanismen wanneer systemen zelfstandig taken uitvoeren.

Daarnaast is het waardevol om aandacht te besteden aan platformupdates en de impact van (zeer) kritieke bugs in de keten. Zie bijvoorbeeld N-able N-central: update stopt 17 zero-days voor een concrete herinnering dat vertraging in patching direct consequenties kan hebben.

Conclusie: neem AI-aanvalskaders serieus als realtime dreiging

GTIG’s observaties onderstrepen dat aanvallers AI-aanvalskaders steeds vaker gebruiken om kwetsbaarheden te identificeren en uit te buiten met minimale menselijke tussenstap. Daardoor kan een aanval sneller escaleren, van reconnaissance tot exploitatie en post-compromise acties.

Voor organisaties betekent dit dat “bijblijven met updates” noodzakelijk blijft, maar niet genoeg is. Je moet ook slimmer detecteren, toegang beperken en je incidentrespons zo inrichten dat je geautomatiseerde intrusieketens kunt stoppen. De dreiging is niet alleen groter, maar ook sneller — en dat vraagt om dezelfde mentaliteit in je verdediging.

Bron: https://www.securityweek.com/ai-framework-autonomously-weaponized-flaws-in-real-attacks-google-says/