Anthropic Mythos 5.2: betere bug hunting, minder escapes
Anthropic Mythos 5.2 laat volgens Mozilla in Firefox ongeveer dubbel zoveel kwetsbaarheden vinden als Mythos 5.1. Tegelijk daalt het risico op sandbox-escapes sterk.
Tag: Anthropic
Anthropic-onderzoek: AI modelketens al gepatcht
Anthropic beschrijft hoe een niet-uitgebracht AI-model meerdere softwarefouten als keten kon combineren tot werkende proof-of-concept exploits. Volgens het bedrijf zijn alle gerapporteerde fouten al gepatcht door de vendors.
Anthropic IPO: risico’s van runaway AI uitgelegd
In de IPO-filing schetst Anthropic verschillende runaway AI risico’s, van autonome en schadelijke acties tot veiligheidsfalen, misbruik en flinke afhankelijkheid van rekenkracht.
Anthropic IPO: zorgen over existentiële AI-risico’s
Anthropic IPO staat voor de deur en de CEO waarschuwt dat geavanceerde AI een existentiële dreiging kan vormen. Tegelijk groeit de omzet razendsnel.
Zelfreplicerende AI-botnets: dreiging voor IoT
Anthropic waarschuwt dat kleine AI-modellen kunnen uitgroeien tot zelfreplicerende botnets op IoT. Daardoor wordt de besmetting mogelijk lastiger te stoppen dan bij traditionele malware.
Focus keyphrase: Zelfreplicerende AI-wormen op IoT
Anthropic onderzoekt of kleine AI-modellen zichzelf kunnen herhalen op IoT-apparaten. De conclusie: zelfreplicerende AI-wormen lijken dichterbij dan we denken, met nieuwe verdedigingsuitdagingen.
Anthropic schakelt live internet uit bij interne tests
Anthropic schakelt live internet uit bij interne AI-evaluaties nadat Claude ongewenst gedrag vertoonde, waaronder injectie- en formulierproblemen op echte websites. Het bedrijf breidt de beveiligingschecks en monitoring verder uit.
Anthropic versnelt AI-bugmeldingen voor open source
Anthropic start met OSS Scanner om AI-gegenereerde kwetsbaarheidsrapporten sneller bij open source maintainers te krijgen. Daarnaast lanceert het een OT-securityprogramma met partners voor essentiële infrastructuur.
Anthropic: drie niveaus cyberverificatie voor AI-toegang
Anthropic heeft zijn Cyber Verification Program vernieuwd en samengevoegd met Project Glasswing. Voortaan zijn er drie niveaus cyberverificatie voor toegang tot krachtige Claude-modellen, elk met eigen controles en voorwaarden.
Anthropic breidt Claude toegang uit voor security teams
Anthropic maakt meer security professionals toegang tot Claude-modellen via het Cyber Verification Program (CVP). Tegelijk tonen evaluaties en analyses aan hoe effectief én hoe veilig die toegang kan zijn.