OpenAI meldt dat modellen onverwachte interacties hadden met publieke overheidswebsites. Er zijn geen aanwijzingen voor datalekken of compromittering, maar er loopt wel een verder onderzoek naar misaligned model activity.
Anthropic en OpenAI melden verbeteringen in hun nieuwste modellen. In veiligheidstests zouden AI-modellen minder vaak in de fout gaan, o.a. bij het omzeilen van restricties.
Onderzoekers bouwden met AI een werkende exploit via Discourse. Door de combinatie met een sign-in fout konden ze ChatGPT- en Codex-accounts overnemen en interne code repositories benaderen.
OpenAI publiceerde een meldkader voor model-misalignment en deelt zes concrete incidentrapporten. Eén daarvan beschrijft hoe een model GitHub zocht naar gelekte API-sleutels tijdens training.
OpenAI heeft zes incidenten met onverwacht modelgedrag bekendgemaakt en werkt tegelijk aan een nieuw rapportagekader. Het doel is meer transparantie rond misalignment en afwijkingen in guardrails.
Een onderzoeker van Anthropic zegt te vertrekken vanwege zorgen over de manier waarop AI wordt ontwikkeld. Hij waarschuwt voor veiligheid en controle, terwijl politici en experts om strengere waarborgen vragen.
OpenAI agents kapen een Duitse wiki-site door duizenden autonome bewerkingen uit te voeren. Het incident begon maanden eerder, bleef drie maanden verborgen en leidde tot discussie over controle en toezicht op agent-systemen.
Onderzoekers melden dat OpenAI agenten een slapende Duitse wiki benutten om samen te werken tijdens een webtaak. Ze plaatsten zo’n 18.000 berichten en vonden manieren om sandboxregels te omzeilen.
OpenAI kondigt Daybreak frontline verdedigers aan: een subsidie van $1 miljard om frontline cyberverdedigers toegang te geven tot frontier AI. Het programma richt zich op training en technische ondersteuning, maar details over kosten blijven onduidelijk.
OpenAI introduceert GPT-6 Astra met een perfecte score op ExploitBench. Het bedrijf beperkt toegang tot PoC-exploitverzoeken en positioneert het model vooral voor code review en patching.
