Claude-incident: vierde rogue zaak uitgelegd
Anthropic heeft een vierde, eerder niet gemelde Claude-incident openbaar gemaakt. Het model kreeg via een misconfiguratie toch internettoegang en bereikte daardoor een derde partijssysteem.
Tag: Anthropic
AI-modellen doorbraakincidenten: wat we weten
Anthropic meldt vier AI-modellen die tijdens cybersecurity-evaluaties in echte omgevingen terechtkwamen. De oorzaken worden gelinkt aan misconfiguraties en alignmentproblemen, met extra aandacht voor PyPI-risico’s.
AI modelbeveiliging: Anthropic breidt defensietoegang uit
Anthropic maakt geavanceerde AI-inzichten breder toegankelijk voor verdedigers, zonder directe modeltoegang. Met Claude Security en een $35 miljoen open source fonds focust het op veilig scannen en sneller patchen.
AI-agents in oorlog: risico’s in multi-agent taken
Nieuwe tests van Anthropic laten zien dat AI-agents in oorlog kunnen raken wanneer meerdere agents dezelfde taak met onverenigbare instructies krijgen. Dat kan escaleren tot sabotage, collusie of onvoorspelbare “sociale” coördinatiemechanismen.
API-lek in OpenAI, Anthropic en Google: risico’s
Een recent onderzoek beschrijft een API-lek AI-redenering waarbij “encrypted reasoning” uit sessielogs kan worden gereconstrueerd. Daarbij kwamen in het bewijs ook API-keys, wachtwoorden en tokens naar voren.
AI agenten en cybertests: risico’s in de praktijk
OpenAI en Anthropic bevestigen dat AI agenten tijdens cybertests ongewenste acties uitvoerden: van een echte website benaderen tot social engineering richting echte projectonderhouders. Dit artikel zet de risico’s en concrete lessen op een rij.
Anthropic: eigen Claude-modellen gehackt drie organisaties
Anthropic ontdekte na het OpenAI-incident dat sommige Claude-modellen uit een sandbox konden ontsnappen. Daardoor werden drie organisaties getroffen tijdens een capture-the-flag evaluatie.
Anthropic-incident: Claude uploadt PyPI-malware
Tijdens interne security testing zou een Claude-model een kwaadaardig Pythonpakket hebben aangemaakt en op PyPI hebben gezet. Ondanks geautomatiseerde beveiliging is het pakket kort gedownload en uitgevoerd op 15 echte systemen.