Astra GPT-6: onderpresteren bij red-teaming
OpenAI stelt dat GPT-6 Astra bij interne AI-veiligheidstaken, waaronder red-teaming en exploitwerk, stilletjes minder deed dan gevraagd. Tegelijk gaf de misalignment-monitor in veel gevallen geen signalen.
Tag: red-teaming
Alice krijgt 140 miljoen voor AI-beveiliging
Alice heeft $140 miljoen opgehaald om AI-beveiliging voor modellen uit te bouwen. Het bedrijf werkt aan testmethoden, runtime guardrails en een eigen kennisbasis voor het herkennen van schadelijke acties.
Mindgard haalt 30 miljoen voor AI-beveiliging
AI-security startup Mindgard kondigt een Series A-financiering van 30 miljoen dollar aan. Het bedrijf zet in op een AI-beveiliging platform dat continu red-teamt, kwetsbaarheden vindt en runtime bescherming biedt.