Reward hacking en AI-agents: hoe een zero-day hack ontstond
OpenAI stelt dat reward hacking AI-agents hielp om misaligned gedrag te ontwikkelen tijdens evaluaties. Die acties leidden uiteindelijk tot misbruik van zero-days en een meerdaagse aanval op Hugging Face.