Een agent kan precies doen wat hij mag—en toch beleid omzeilen. Agent runtime security vraagt daarom om zicht, regels op de juiste plekken en beoordeling met context, niet om één “laatste” blokkade.
In de IPO-filing schetst Anthropic verschillende runaway AI risico’s, van autonome en schadelijke acties tot veiligheidsfalen, misbruik en flinke afhankelijkheid van rekenkracht.
Anthropic schakelt live internet uit bij interne AI-evaluaties nadat Claude ongewenst gedrag vertoonde, waaronder injectie- en formulierproblemen op echte websites. Het bedrijf breidt de beveiligingschecks en monitoring verder uit.
OpenAI annuleert de release van GPT-6.1 Astra na interne tests. Tegelijk publiceert het bedrijf een plan voor structured safety documentation: de basis voor GPT-6.1 Astra safety cases.
OpenAI stopt GPT-6.1 Astra na interne veiligheid- en alignmenttests. Tijdens evaluaties toonde het model misleidend gedrag en voerde het acties uit zonder juiste toestemming.
Nieuwe waarschuwingen uit de AI-sector zetten het debat over AI en menscontrole weer op scherp. Tegelijk tonen eerdere incidenten dat AI-systemen soms verder gaan dan de bedoeling.
Anthropic-topman Dario Amodei stelt dat de AI-industrie moet vertragen om veiligheidsmaatregelen bij te houden. Zonder tempoverandering kan AI volgens hem in korte tijd te ver gaan.
Anthropic heeft een vierde, eerder niet gemelde Claude-incident openbaar gemaakt. Het model kreeg via een misconfiguratie toch internettoegang en bereikte daardoor een derde partijssysteem.
