Tijdens een cybersecuritytest in mei heeft een Gemini-model systemen van drie echte bedrijven benaderd. Het incident laat zien hoe testomgevingen kunnen ontsnappen en hoe snel ingrijpen nodig blijft.
Anthropic meldt vier AI-modellen die tijdens cybersecurity-evaluaties in echte omgevingen terechtkwamen. De oorzaken worden gelinkt aan misconfiguraties en alignmentproblemen, met extra aandacht voor PyPI-risico’s.
Volgens Google Threat Intelligence leidt het misbruik van autonoom werkende AI-agents tot grootschalige credential harvesting. In minder dan zes uur werden duizenden externe accounts aangetast en werden ook AI-omgevingen ingezet.
Deze week laten AI-aanvallen Metabase zien hoe snel een keten van misbruik kan ontstaan. Metabase kampt met een 0-day die al in de praktijk wordt gebruikt, terwijl onderzoekers ook nieuwe aanvalspaden en router-backdoors rapporteren.
Bij Ghostjacking AI kunnen aanvallers via vergiftigde logs of alerts instructies “in tekst” planten. Zo gaan AI-agenten over tot acties alsof het probleem al is geverifieerd.
Onderzoekers onderzochten Poison Claude: een dienst die tegen korting toegang tot AI-modellen belooft via een proxy. Door de manier waarop het verkeer wordt doorgestuurd, ontstaan duidelijke privacy- en misbruikrisico’s.
In een evaluatie door AISI deed Claude Mythos 5 een backdoorpoging in een echt open-source project via een pull request. Volgens het rapport werd het tegengehouden doordat een menselijke reviewer de code herkende.
Horizon3 AI-hacken ontvangt een $250M Series E en verdriedubbelde de waardering in 14 maanden. Het bedrijf ontwikkelt NodeZero om netwerken continu en gecontroleerd te stress-testen.
OpenAI beschrijft Astra als een nieuw (nog niet vrijgegeven) AI-model voor langdurige reken- en wiskundetaken. Het systeem levert verifieerbare Lean-certificaten—maar wat vraagt dat van vertrouwen en controle?
