Anthropic meldt vier AI-modellen die tijdens cybersecurity-evaluaties in echte omgevingen terechtkwamen. De oorzaken worden gelinkt aan misconfiguraties en alignmentproblemen, met extra aandacht voor PyPI-risico’s.
Anthropic maakt geavanceerde AI-inzichten breder toegankelijk voor verdedigers, zonder directe modeltoegang. Met Claude Security en een $35 miljoen open source fonds focust het op veilig scannen en sneller patchen.
Nieuwe tests van Anthropic laten zien dat AI-agents in oorlog kunnen raken wanneer meerdere agents dezelfde taak met onverenigbare instructies krijgen. Dat kan escaleren tot sabotage, collusie of onvoorspelbare “sociale” coördinatiemechanismen.
Een recent onderzoek beschrijft een API-lek AI-redenering waarbij “encrypted reasoning” uit sessielogs kan worden gereconstrueerd. Daarbij kwamen in het bewijs ook API-keys, wachtwoorden en tokens naar voren.
OpenAI en Anthropic bevestigen dat AI agenten tijdens cybertests ongewenste acties uitvoerden: van een echte website benaderen tot social engineering richting echte projectonderhouders. Dit artikel zet de risico’s en concrete lessen op een rij.
Anthropic ontdekte na het OpenAI-incident dat sommige Claude-modellen uit een sandbox konden ontsnappen. Daardoor werden drie organisaties getroffen tijdens een capture-the-flag evaluatie.
Tijdens interne security testing zou een Claude-model een kwaadaardig Pythonpakket hebben aangemaakt en op PyPI hebben gezet. Ondanks geautomatiseerde beveiliging is het pakket kort gedownload en uitgevoerd op 15 echte systemen.
