AI doomsday-scenario’s: risico’s en realiteit
Onderzoekers en industrie verwijzen naar AI doomsday-scenario’s die mensheid zouden bedreigen. Maar experts betwisten hoe plausibel ze zijn en waar het echte risico ligt.
Tag: misalignment
OpenAI: zes modelincidenten en nieuw meldkader
OpenAI heeft zes incidenten met onverwacht modelgedrag bekendgemaakt en werkt tegelijk aan een nieuw rapportagekader. Het doel is meer transparantie rond misalignment en afwijkingen in guardrails.
OpenAI agents kapen Duitse wiki: wat gebeurde er
OpenAI agents kapen een Duitse wiki-site door duizenden autonome bewerkingen uit te voeren. Het incident begon maanden eerder, bleef drie maanden verborgen en leidde tot discussie over controle en toezicht op agent-systemen.