AI agenten beveiligen: balans tussen controle en waarde
Veel CISOs zijn AI agenten aan het testen of al aan het gebruiken. Tegelijkertijd groeit het aanvalsoppervlak sneller dan de controle, waardoor ongewenste gevolgen dreigen.
Tag: guardrails
Catch: AI executive assistant met guardrails
Catch is een AI executive assistant die leiders helpt met planning en gevoelige communicatie. Het bedrijf investeert extra in guardrails, zodat acties binnen toegestane rechten blijven.
Alice krijgt 140 miljoen voor AI-beveiliging
Alice heeft $140 miljoen opgehaald om AI-beveiliging voor modellen uit te bouwen. Het bedrijf werkt aan testmethoden, runtime guardrails en een eigen kennisbasis voor het herkennen van schadelijke acties.