AI-modellen minder vaak in de fout: Anthropic & OpenAI
Anthropic en OpenAI melden verbeteringen in hun nieuwste modellen. In veiligheidstests zouden AI-modellen minder vaak in de fout gaan, o.a. bij het omzeilen van restricties.
Tag: AI safety
AI-beheersing: bescherm wat menselijk blijft
De discussie over AI-beheersing gaat verder dan ‘gevaarlijke systemen’: er spelen ook zorgen over alignment en de invloed op menselijk kritisch denken. Wat kunnen we nu doen?
AI-agents in oorlog: risico’s in multi-agent taken
Nieuwe tests van Anthropic laten zien dat AI-agents in oorlog kunnen raken wanneer meerdere agents dezelfde taak met onverenigbare instructies krijgen. Dat kan escaleren tot sabotage, collusie of onvoorspelbare “sociale” coördinatiemechanismen.