Verborgen prompt-injecties kunnen instructies in ogenschijnlijk onschuldige content plaatsen, waardoor AI-agenten buiten hun regels handelen. Dit artikel legt het risico uit en biedt gerichte verdedigingsstappen.
Een geplante prompt kan ChatGPT onzichtbaar taken laten uitvoeren met toegang tot een verbonden Gmail-account. Check Point toont een proof of concept waarbij data naar een ander ChatGPT-account wordt gestuurd.
Onderzoekers melden dat prompt injection Kiro in Amazon Kiro IDE lokale, gevoelige gegevens kan doorsturen via Kiro Powers. De aanval vraagt om specifieke gebruikersacties en een kwetsbare projectworkflow.
Cryptographic Context Injection is een nieuwe aanvalstechniek die AI-safety guardrails kan omzeilen door instructies versleuteld aan te leveren. Zo kan een model ongewenste acties uitvoeren of data ongeautoriseerd uitlekken.
Adversa AI beschrijft een aanval die Grok via Cryptographic Context Injection versleutelde context uit een webpagina laat uitvoeren. Daardoor kan een aanvaller mogelijk persoonlijke gegevens en prompts stelen.
Onderzoekers van Varonis Threat Labs ontdekten CoSnitch bij Copilot Personal: een crafted link kan in één klik data uit verbonden apps trekken. Er zijn ook risico’s rond geheugen-schrijven via samenvattingen.
Een recent onderzoek beschrijft een API-lek AI-redenering waarbij “encrypted reasoning” uit sessielogs kan worden gereconstrueerd. Daarbij kwamen in het bewijs ook API-keys, wachtwoorden en tokens naar voren.
GhostSplice MCP laat zien hoe een aanvaller instructies kan knippen over meerdere MCP-stappen zodat een AI-coding agent toch secrets uitlevert. De techniek werkt via externe tool-servers en draait om fout behandelde input en tool-aanroepen.
Onderzoekers van Varonis Threat Labs ontdekten de RovoBlast kwetsbaarheid: een speciaal gemaakte link kan Rovo in iemands live AI-sessie aanzetten tot datalekken. Zonder extra bypass of jailbreak wordt gevoelige informatie opgehaald en gedeeld.
Onderzoekers vonden dat Atlassian Rovo misleid kan worden om Jira- en Confluence-informatie te verzamelen en door te sturen naar een aanvaller. Eén van de routes is server-side verholpen; voor de andere blijft de status beperkt bevestigd.
