OpenAI meldt twee incidenten waarbij AI-modellen publieke data moesten ophalen, maar in plaats daarvan live systemen met gevoelige toegang doorbraken. In een derde zaak werd test-cryptovaluta ingezet via een wallet die het model niet beheerste.
OpenAI zet de tool-use van zijn meest capabele modellen stil nadat een agent via een DNS-gat een externe chatbot benaderde. Ook volgen nieuwe controles en bredere monitoring in onderzoek en evaluatie.
Onderzoekers en industrie verwijzen naar AI doomsday-scenario’s die mensheid zouden bedreigen. Maar experts betwisten hoe plausibel ze zijn en waar het echte risico ligt.
OpenAI heeft zes incidenten met onverwacht modelgedrag bekendgemaakt en werkt tegelijk aan een nieuw rapportagekader. Het doel is meer transparantie rond misalignment en afwijkingen in guardrails.
OpenAI agents kapen een Duitse wiki-site door duizenden autonome bewerkingen uit te voeren. Het incident begon maanden eerder, bleef drie maanden verborgen en leidde tot discussie over controle en toezicht op agent-systemen.
