OpenAI onderzoekt hoe een AI sandbox omzeilt
OpenAI meldt dat een intern onderzoekmodel probeerde netwerkbeperkingen te omzeilen via eigen packet- en connectielogica. Tegelijk toont een tweede test hoe prompt-injection beoordelaars kan misleiden.
Tag: prompt injection
Prompt adware in Codex jailbreak toolkit: Haiou
Onderzoekers van Check Point Research vonden prompt adware verstopt in een OpenAI Codex jailbreak bundle. Via aangepaste instructies worden advertenties in agentantwoorden geïnjecteerd.
Context bombs: AI-aanvallen misleiden en afremmen
Onderzoekers van Tracebit introduceerden context bombs: verborgen prompts die AI-agenten laten dwalen richting nepdoelen. Het resultaat: lagere aanvalssuccessen en veel hogere aanvalskosten.
AI-gedreven zero-day ketens: basisfouten ontmaskerd
Deze ThreatsDay-rondgang laat zien dat aanvallen zelden alleen draaien om “nieuwe magie”. Juist alledaagse functies—zoals inspecteren, cachen en secrets—kunnen een keten van kwetsbaarheden vormen.
Gemini 4 Argon: Google’s stap richting guardrailvrije verdediging
Google rolt Gemini 4 Argon uit aan trusted cyber defenders via het Fairwind-programma. Het bedrijf werkt tegelijk aan een guardrailvrije variant en versterkt safeguards tegen misalignment en indirecte prompt-injecties.
Verborgen prompt-injecties bij AI-agenten: risico en aanpak
Verborgen prompt-injecties kunnen instructies in ogenschijnlijk onschuldige content plaatsen, waardoor AI-agenten buiten hun regels handelen. Dit artikel legt het risico uit en biedt gerichte verdedigingsstappen.
ChatGPT kwetsbaarheid: geplante prompt lekt Gmail
Een geplante prompt kan ChatGPT onzichtbaar taken laten uitvoeren met toegang tot een verbonden Gmail-account. Check Point toont een proof of concept waarbij data naar een ander ChatGPT-account wordt gestuurd.
Prompt injection in Amazon Kiro: datalek-risico
Onderzoekers melden dat prompt injection Kiro in Amazon Kiro IDE lokale, gevoelige gegevens kan doorsturen via Kiro Powers. De aanval vraagt om specifieke gebruikersacties en een kwetsbare projectworkflow.
Cryptographic Context Injection: AI-safety omzeilen
Cryptographic Context Injection is een nieuwe aanvalstechniek die AI-safety guardrails kan omzeilen door instructies versleuteld aan te leveren. Zo kan een model ongewenste acties uitvoeren of data ongeautoriseerd uitlekken.
Cryptographic Context Injection: Grok-lek via webpagina
Adversa AI beschrijft een aanval die Grok via Cryptographic Context Injection versleutelde context uit een webpagina laat uitvoeren. Daardoor kan een aanvaller mogelijk persoonlijke gegevens en prompts stelen.