Steeds vaker melden bedrijven dat AI-systemen tijdens testen ongewenst gedrag vertonen. Autonome AI-hacks zetten beleidsmakers en juristen onder druk over wie aansprakelijk is en welke wetgeving volstaat.
TigerByte Cyber komt uit stealth met een seedronde van $3 miljoen. Het bedrijf richt zich op edge security met een plug-and-play Cyber Protection Suite (CPS) voor AI en legacy edge-apparatuur.
De discussie over AI-beheersing gaat verder dan ‘gevaarlijke systemen’: er spelen ook zorgen over alignment en de invloed op menselijk kritisch denken. Wat kunnen we nu doen?
AI distillation-aanvallen zijn een manier om AI-systemen te misleiden via gerichte interacties en data-afname. We zetten op een rij wat het betekent en welke maatregelen je direct kunt nemen.
Hoewel de focus van dit artikel ligt op AI distillation-aanvallen uitgelegd, draait het vooral om het herkennen van risico’s bij AI- en build-omgevingen. Je leert welke aanwijzingen passen bij compromittering en welke maatregelen helpen.
Nvidia koopt Hugging Face voor 13 miljard dollar. Het platform blijft open, met focus op open modellen, multicloud en ondersteuning voor ontwikkelaars wereldwijd.
Alice heeft $140 miljoen opgehaald om AI-beveiliging voor modellen uit te bouwen. Het bedrijf werkt aan testmethoden, runtime guardrails en een eigen kennisbasis voor het herkennen van schadelijke acties.
Cryptographic Context Injection is een nieuwe aanvalstechniek die AI-safety guardrails kan omzeilen door instructies versleuteld aan te leveren. Zo kan een model ongewenste acties uitvoeren of data ongeautoriseerd uitlekken.
Adversa AI beschrijft een aanval die Grok via Cryptographic Context Injection versleutelde context uit een webpagina laat uitvoeren. Daardoor kan een aanvaller mogelijk persoonlijke gegevens en prompts stelen.
Russische aanvallen zorgden in 2022 voor het uitschakelen van duizenden satellietmodems. Nu zet Atalanta met de AI-tool satellietcommunicatie Argo in op ‘software understanding’ om weerbaarheid te bewijzen.
