AI-systemen worden steeds vaker ingezet in productieomgevingen, maar daarmee groeit ook de kans op misbruik. De trust-, safety- en securitypartij Alice kondigde aan dat het $140 miljoen heeft opgehaald om AI-beveiliging voor modellen verder te versterken. Met de investering wil het bedrijf zijn platform uitbreiden, meer mensen toevoegen en de go-to-market opschalen.
De ronde brengt de totale financiering van Alice naar $280 miljoen. De investering is volgens het bedrijf bedoeld om AI-platforms beter bestand te maken tegen kwetsbaarheden en tegen aanvallen die uitgaan van tegenstanders (adversarial attacks).
Wat Alice wil verbeteren met de nieuwe investering
De financiering dient meerdere doelen. Ten eerste wil Alice het eigen AI-platform doorontwikkelen. Daarnaast wil het team de onderzoeks- en datacapaciteit vergroten, inclusief het uitbreiden van een propriëtaire intelligentiedataset. Tot slot wil de organisatie de commerciële uitrol versnellen.
De investeringsronde is geleid door Apax Digital Funds. Verder nemen onder andere MoreTech, Phoenix Financial, Resolute Ventures, Grove Ventures, CRV, Highland Europe, Vintage Investments, Norwest, NFX en Claltech deel.
Vooraf testen: stress-tests vóór publieke release
Een kernonderdeel van de aanpak van Alice is dat het samenwerkt met AI-ontwikkelaars om fundamentele modellen (foundational models) te stress-testen voordat ze breed beschikbaar worden. In die fase richt het onderzoek zich op het blootleggen van gedrag dat afwijkt van wat je mag verwachten.
Concreet beschrijft Alice dat de researchdivisie mock-malicious inputs en complexe agentic taken uitvoert. Het doel daarvan is om “erratic behaviors” zichtbaar te maken. Daarmee wil het team de kans verkleinen dat modellen kwetsbaar blijken voor technieken zoals prompt injection en pogingen tot jailbreaks.
In productie: continue red-teaming en runtime guardrails
Zodra een model in productie draait, verandert de dreiging. Dan is alleen een eenmalige testfase niet genoeg. Daarom zegt Alice een systeem te bieden met doorlopende red-teaming en dynamische runtime guardrails.
Met die runtime guardrails wil het bedrijf de werking van AI-systemen afstemmen op de regels die organisaties belangrijk vinden. Alice stelt daarbij dat klanten custom internal guidelines kunnen instellen, zodat de beveiliging aansluit op de eigen bedrijfscontext.
Daarnaast noemt Alice dat organisaties breuken kunnen simuleren, en dat ze systemverkeer in realtime kunnen monitoren. Zo ontstaat er een manier om niet alleen “na afloop” te evalueren, maar ook tijdens het gebruik bij te sturen wanneer er afwijkend gedrag optreedt.
Rabbit Hole: een eigen database voor schadelijke patronen
Om aanvallen beter te kunnen herkennen gebruikt Alice een propriëtaire database met de naam Rabbit Hole. Dit is een repository die volgens het bedrijf is opgebouwd over bijna tien jaar door digitaal frauduleuze gebeurtenissen, ideologische extremisme en manipulatiecampagnes te volgen.
Door te putten uit die archieven wil het platform hostile acties tegen generatieve AI-systemen detecteren en onderscheppen. Het idee is dat het model niet alleen op basis van regels werkt, maar ook kan voortbouwen op kennis over hoe misbruik in de praktijk eerder is opgedoken.
Onderzoekslab met meer dan 150 specialisten
Naast het platform heeft Alice een eigen onderzoeksfaciliteit. Daar wordt specifiek gekeken naar zwakheden in machine learning-architecturen. Het lab werkt met meer dan 150 specialisten die met grote modelontwikkelaars samenwerken.
In die samenwerking ligt de nadruk op het vooruitdenken van mogelijke failure modes: welke manieren waarop systemen kunnen worden omgeleid, gemanipuleerd of in ongewenst gedrag belanden. Vervolgens probeert het lab veiligheidsleemtes proactief te dichten.
Waarom Alice zegt dat verdediging om data en ervaring vraagt
CEO en co-founder Noam Schwartz lichtte de achtergrond van de aanpak toe. Volgens hem zijn er “oneindig veel manieren” om AI te breken, en kun je je niet verdedigen tegen wat je nog niet hebt gezien.
In het verhaal van Alice heeft het bedrijf jarenlang bestudeerd hoe mensen technologie misbruiken op schaal—eerst op de grootste platformen en later op modellen die dezelfde doelgroepen proberen te testen en te benaderen. Met andere woorden: het bedrijf positioneert zichzelf als partij die snel capaciteit wil opbouwen om defensies beschikbaar te maken vóórdat bedreigingen hun weg breed vinden.
Wat dit betekent voor organisaties die AI willen uitrollen
Voor bedrijven die AI inzetten, valt uit dit nieuws vooral één conclusie te trekken: AI-beveiliging voor modellen wordt een continu proces in plaats van een eenmalige audit. Wanneer modellen eenmaal live zijn, ontstaan nieuwe manieren om ze te beïnvloeden via prompts, agents of runtime-gedrag.
De aanpak van Alice—vooraf stress-testen, daarna red-teaming en runtime guardrails toepassen, en parallel werken aan kennisbanken en onderzoek—past bij het idee dat beveiliging meer moet zijn dan een checklist. Het gaat ook om het meten van afwijkingen en het vertalen van bedrijfsregels naar technisch afdwingbare bescherming.
Snelle blik: hoe de aanpak van Alice in één schema samenkomt
- Pre-release stress-tests: het platform helpt ontwikkelaars om foundational models te testen op prompt injection en jailbreak-achtige pogingen.
- Doorlopend testen: continue red-teaming om nieuwe zwakke plekken sneller zichtbaar te maken.
- Runtime guardrails: dynamische beschermingsmechanismen die de output sturen naar interne richtlijnen.
- Eigen kennisbasis: Rabbit Hole als databank met historisch materiaal over frauduleus en manipulatief gedrag.
- Langlopend onderzoek: een specialistisch lab dat ML-architecturen onderzoekt en met modelontwikkelaars samenwerkt.
Gerelateerd: bredere beweging richting AI-management en governance
De investering van Alice staat niet op zichzelf. In dezelfde hoek van de markt gaat het ook over AI-management, governance en beveiliging van systemen. Neem bijvoorbeeld de berichtgeving over wat er verandert rondom AI vulnerability management. Dat helpt organisaties om kwetsbaarheden en risico’s rond AI-systemen beter te benaderen.
Ook relevant in dit bredere speelveld zijn artikelen over het misleiden van defensies en het belang van voortdurende evaluatie, zoals waarom “silent patches” je verdediging kunnen misleiden.
Conclusie
Met de $140 miljoen investering wil Alice zijn platform opschalen voor AI-beveiliging voor modellen. De nadruk ligt op drie momenten: vóór release stress-testen, in productie blijven oefenen met red-teaming en runtime guardrails, en daarbij ondersteuning bieden via een eigen dataset (Rabbit Hole) en een intensief onderzoeksprogramma met een groot team.
Voor organisaties die AI in hun organisatie willen gebruiken, onderstreept dit bericht dat beveiliging niet stopt bij implementatie. Wie modellen gebruikt, moet ze blijven testen, monitoren en afstemmen op de regels die gelden binnen de eigen organisatie.
