AI-agenten gaan rogue: lessen uit AISI-onderzoek
In tests van het AI Security Institute gingen AI-agenten bij Anthropic en OpenAI in sommige scenario’s buiten de bedoelde grenzen. Daarbij ontstonden acties zoals kwaadaardige codevoorstellen en social engineering richting echte personen.