AI-agenten beloven veel: ze nemen taken over, handelen sneller en kunnen met mensen en systemen samenwerken. Toch ontstaat er een terugkerend probleem: zodra een agent ambiguïteit in opdrachten verkeerd interpreteert, kan hij besluiten nemen die niet de bedoeling waren. Daarom groeit de vraag naar AI supervision—technologie die tijdens het gebruik toezicht houdt en tijdig bijstuurt.
Een recente ontwikkeling is Pretxt, dat uit stealth is gekomen met $5 miljoen seed. Het bedrijf positioneert zijn aanpak als runtime-oplossing om agenten “in de juiste baan” te houden, zodat onbedoelde acties geen directe bedrijfsschade veroorzaken.
Waarom AI-agenten kunnen ontsporen
Traditionele software voert uit wat er staat. Bij AI-agenten ligt het anders. Ze ontvangen een instructie, interpreteren die, kunnen misinterpretaties hebben en reageren vervolgens op basis van context. Juist die combinatie maakt dat agenten kunnen afwijken wanneer taal dubbelzinnig is of wanneer de uitkomst “logisch” lijkt, maar niet overeenkomt met bedrijfsregels.
Het lastige: je kunt ambiguïteit in menselijke taal niet volledig uitsluiten. Bovendien is het beperken van de mogelijkheden van een agent tot een minimum vaak onwenselijk, omdat je dan waardevolle use-cases juist afknijpt. Het gevolg is een spanningsveld tussen veiligheid en bruikbaarheid.
Wat is AI supervision in de praktijk?
AI supervision draait om een andere benadering dan enkel “hard blokkeren”. Pretxt beschrijft zijn technologie als runtime toezicht dat agenten begeleidt terwijl ze hun werk doen. In plaats van een agent simpelweg uit te zetten, richt de aanpak zich op het herkennen van acties die niet passen binnen de vooraf bepaalde grenzen.
De kernfilosofie is: geef de agent toegang en mogelijkheden op het niveau van een geautoriseerde medewerker, maar monitor hoe de agent interacteert. Wanneer gedrag afwijkt van het toegestane doel of bovenverwachte bevoegdheden gebruikt, wordt er bijgestuurd.
Niet alleen afkappen, maar “steering”
Volgens Pretxt draait de interventie om “steering”. Dat betekent niet dat de agent per definitie wordt uitgeschakeld. Het systeem grijpt in zodat de agent terugkeert naar het beoogde gedrag.
Het idee wordt vergeleken met een supervisor die naast een trainee meeloopt: zodra er iets misgaat, corrigeert de supervisor bij. Voor bedrijven is dat relevant, omdat uitval van een agent soms direct betekent dat een dienst of workflow stilvalt.
Hoe toezicht werkt: context, instructies en realtime checks
Pretxt geeft aan dat nieuwe klanten een agent onboarden en verbinden met het product. Daardoor kan Pretxt inzicht krijgen in de instructies en het doel van de agent. Terwijl de agent in productie draait, observeert het systeem ook hoe de agent spreekt, welke tools hij kan gebruiken en welke vaardigheden zijn toegewezen—bijvoorbeeld acties zoals e-mail verzenden, posten op sociale kanalen of database-updates doen.
Vervolgens koppelt de organisatie haar eigen “wat wel/wat niet”-regels aan de oplossing. Denk aan: geen medische adviezen, alleen afspraken ondersteunen, toegang tot specifieke gegevensbronnen beperken of juist bepaalde datatypen afschermen.
Belangrijk is dat de context die hierbij hoort, wordt betrokken in het toezicht. Pretxt beschrijft dat deze context in de AI van het toezichtmechanisme terechtkomt en wordt gebruikt bij plekken waar de agent mogelijk de beoogde grenzen kan overschrijden.
Voorbeeld: klantservice in de zorg
Een illustratief scenario dat Pretxt noemt, gaat over een klantservice-agent die door een medische praktijk wordt ingezet om patiënten te helpen bij het boeken van afspraken. In zo’n setting wil je voorkomen dat de agent zich gaat gedragen als een bron van medische adviezen.
Stel dat de agent in interactie met een gebruiker toch medische adviesinhoud produceert. Volgens de beschrijving van Pretxt zou de AI supervision in realtime ingrijpen: het systeem detecteert dat de interactie medische advisering bevat en voorkomt dat dit gebeurt.
De aanpak is daarbij subtiel: de agent wordt niet simpelweg afgesloten. In plaats daarvan “praat” het toezichtmechanisme onzichtbaar terug naar de agent met een corrigerende boodschap—zodat de agent verder helpt met de oorspronkelijke boekingsvraag, maar medische adviezen achterwege laat.
Daarmee wordt het doel van AI supervision duidelijk: veiligheid bereiken zonder de functionaliteit volledig uit te schakelen.
Waarom dit past bij security voor AI-agenten
Security rond AI-agenten vraagt om een combinatie van governance en runtime-controle. Regels vooraf vastleggen is nuttig, maar schiet tekort wanneer interpretatie in de praktijk toch afwijkt door taalvariatie of complexe context.
AI supervision probeert precies dat gat te dichten door tijdens gebruik te controleren of de agent handelt binnen zijn bedoeling. Als er een afwijking optreedt, volgt bijsturing voordat het misgaat op systeem- of bedrijfsniveau.
Als je hierin verder wilt verdiepen, kan ook deze analyse van onze site relevant zijn: Bron: https://www.securityweek.com/pretxt-emerges-stealth-with-5m-seed-and-an-ai-supervision-tool/
