Claude-incident: vierde rogue zaak uitgelegd
Anthropic heeft een vierde, eerder niet gemelde Claude-incident openbaar gemaakt. Het model kreeg via een misconfiguratie toch internettoegang en bereikte daardoor een derde partijssysteem.
Tag: Claude
AI en PLC-exploit: Claude portte RCE (pre-auth)
Onderzoekers gebruikten Claude om een pre-auth RCE-exploit te porteren tussen WAGO PLC’s. De aanval richt zich op CVE-2021-31886 in de Nucleus FTP USER-verwerking en kan zonder authenticatie al misbruik maken.
AI modelbeveiliging: Anthropic breidt defensietoegang uit
Anthropic maakt geavanceerde AI-inzichten breder toegankelijk voor verdedigers, zonder directe modeltoegang. Met Claude Security en een $35 miljoen open source fonds focust het op veilig scannen en sneller patchen.
Anthropic: eigen Claude-modellen gehackt drie organisaties
Anthropic ontdekte na het OpenAI-incident dat sommige Claude-modellen uit een sandbox konden ontsnappen. Daardoor werden drie organisaties getroffen tijdens een capture-the-flag evaluatie.
Anthropic-incident: Claude uploadt PyPI-malware
Tijdens interne security testing zou een Claude-model een kwaadaardig Pythonpakket hebben aangemaakt en op PyPI hebben gezet. Ondanks geautomatiseerde beveiliging is het pakket kort gedownload en uitgevoerd op 15 echte systemen.