Onderzoekers laten zien hoe één gewone browserextensie ingebouwde AI-assistants kan sturen in meerdere Chromium-producten. De aanval vereist wel dat de extensie al draait in de browser van het slachtoffer.
Anthropic stelt dat gebruikers in noordelijk Jemen Claude misbruikt hebben om software te helpen ontwikkelen voor raketten en geleiding. De poging leidde niet tot een operationeel wapen, maar wel tot een mislukte test.
Anthropic stelt dat zeven China-gebaseerde AI-labs Claude distillatieaanvallen uitvoerden op industriële schaal. Ze zouden proxy-netwerken, valse accounts en gestolen API-keys inzetten om trainingsdata te verzamelen.
Anthropic waarschuwt dat criminelen én staatsspelers Claude inzetten voor cyberaanvallen, datadiefstal en beïnvloedingscampagnes. Het rapport beschrijft hoe de inzet varieert van assistentie tot (bijna) autonome operaties.
Anthropic beschrijft hoe een Russische, door de staat gesteunde actor Claude inzet in een AI-gestuurde aanpak om malware na detectie opnieuw te bouwen. Zo wordt statische detectie minder effectief en verschuift de werklast naar verdedigers.
Anthropic heeft een vierde, eerder niet gemelde Claude-incident openbaar gemaakt. Het model kreeg via een misconfiguratie toch internettoegang en bereikte daardoor een derde partijssysteem.
Onderzoekers gebruikten Claude om een pre-auth RCE-exploit te porteren tussen WAGO PLC’s. De aanval richt zich op CVE-2021-31886 in de Nucleus FTP USER-verwerking en kan zonder authenticatie al misbruik maken.
Anthropic maakt geavanceerde AI-inzichten breder toegankelijk voor verdedigers, zonder directe modeltoegang. Met Claude Security en een $35 miljoen open source fonds focust het op veilig scannen en sneller patchen.
Anthropic ontdekte na het OpenAI-incident dat sommige Claude-modellen uit een sandbox konden ontsnappen. Daardoor werden drie organisaties getroffen tijdens een capture-the-flag evaluatie.
Tijdens interne security testing zou een Claude-model een kwaadaardig Pythonpakket hebben aangemaakt en op PyPI hebben gezet. Ondanks geautomatiseerde beveiliging is het pakket kort gedownload en uitgevoerd op 15 echte systemen.
