Steeds meer leerlingen gebruiken AI-chatbots voor schoolwerk, ondersteuning of persoonlijke vragen. Maar veel ouders en docenten vragen zich af waar die gesprekken en gegevens precies terechtkomen, en hoe scholen ervoor zorgen dat kinderen beschermd blijven. Die discussie laait extra op door kritiek op schermtijd en door zorgen over privacy.
Begin van het schooljaar besloten twee grote schooldistricten in de Verenigde Staten — New York City en Los Angeles — om het gebruik van AI voor een jaar te beperken. Terwijl zij evalueren hoe AI verantwoord kan worden ingebed in de lespraktijk, kondigde Microsoft tegelijkertijd guardrails en privacystandaarden aan voor AI in scholen. Die afspraken zijn tot stand gekomen in overleg met de American Federation of Teachers (AFT), een van de grootste lerarenbonden van het land.
In dit artikel zetten we uiteen wat Microsoft precies belooft, welke beperkingen er gelden voor datagebruik en waarom de impact vooral afhangt van of andere AI-leveranciers aanhaken.
Wat Microsoft afspreekt met AFT
Volgens Microsoft gaat het om duidelijke veiligheids- en privacyvoorzieningen voor AI-toepassingen in het onderwijs. De overeenkomst is niet alleen een intentieverklaring: de afspraken zijn juridisch bindend. Daarnaast moeten onafhankelijke derde partijen controleren of de regels worden nageleefd via audits.
Belangrijk is dat de standaarden moeten helpen om de bescherming van kinderen praktisch maakbaar te maken. Microsoft zegt ook dat de afspraken gaan gelden voor scholen waar het bedrijf contracten mee heeft, met ingang van 1 november.
Beperking op training met studentdata
De kern van de AI-privacy regels scholen draait om het datagebruik. Microsoft belooft dat het geen student- of onderwijzersdata gebruikt om AI-systemen te trainen. Er is wél één beperkte uitzondering: data kan alleen worden gebruikt voor doeleinden die samenhangen met het beschermen van leerlingen.
Daarnaast geeft Microsoft aan dat de verzamelde gegevens niet mogen worden verkocht, niet mogen worden gebruikt voor advertenties en niet mogen dienen voor productontwikkeling. Daarmee verschuift de nadruk naar “minimaal nodig” en weg van het businessmodel waarbij data verder wordt uitgebuit buiten het primaire doel van onderwijs.
Grenzen voor AI-companions en afhankelijkheid
Naast dataprotectie bevat het akkoord ook grenzen op inhoudelijk niveau. Microsoft verbiedt het inzetten van AI-functies die bedoeld zijn om emotionele hechting of afhankelijkheid te stimuleren. Ook is er een beperking op engagement: AI moet studenten niet langer aan het systeem “vast houden” dan nodig is voor de daadwerkelijke leertaken.
Deze punten zijn relevant omdat AI in onderwijs niet alleen gaat over antwoorden geven, maar ook over interactie en gedrag. Juist daarom leggen de afspraken de verantwoordelijkheid bij de leverancier, niet bij de school om ongewenste effecten te moeten opvangen.
Transparantie en audits voor ouders en scholen
Een andere pijler is transparantie. Microsoft verplicht zich om via audit- en uitlegmomenten richting families helder te communiceren over hoe de tools werken. Daarbij wordt expliciet ingezet op uitleg in gewone taal, zodat ouders niet hoeven te puzzelen met technische documentatie.
Dat sluit aan op wat veel privacy-experts benadrukken: standaarden moeten niet alleen bestaan in contracten, maar ook terug te zien zijn in inzicht en controle. Door audits als mechanisme op te nemen, wordt het minder vrijblijvend.
Waarom dit alleen werkt als anderen meedoen
De AFT en betrokken experts plaatsen een kanttekening bij het geheel. De standaarden zijn betekenisvol, maar het effect op de praktijk hangt sterk af van adoptie door andere AI-bedrijven, zeker de grote spelers.
Josh Golin, uitvoerend directeur van de non-profit Fairplay, zegt dat een hoogprofiel-kader het risico loopt verkeerd te worden geïnterpreteerd: scholen zouden kunnen denken dat als één bedrijf goede privacyborging biedt, het dan automatisch veilig is om AI breed in te zetten. Voor Golin blijft de fundamentele vraag staan of AI überhaupt thuishoort in het klaslokaal, en vanaf welke leeftijd.
Ook wordt benadrukt dat scholen niet alleen met één leverancier werken. Ze gebruiken vaak duizenden educatieve tools van meerdere partijen. Als die aanbieders niet dezelfde privacy- en veiligheidsnormen accepteren, blijven er gaten bestaan in de totale keten van onderwijssoftware.
Onderwijs IT: van onderhandelingsdruk naar vendor-verantwoordelijkheid
Privacydeskundigen zeggen dat het akkoord scholen helpt in hun gesprekken met leveranciers. Voorheen hing de onderhandelingspositie van veel districten af van financiële kracht. Met een breed gedragen standaard kunnen scholen mogelijk meer zekerheid krijgen zonder dat ze zelf alles opnieuw hoeven te bevechten in contracten.
Elizabeth Laird van het Center for Democracy and Technology noemt het akkoord positief omdat het “bovenop” de wettelijke verplichtingen voor leveranciers komt. Ze noemt als voorbeeld dat Microsoft zich committeert aan het niet gebruiken van gevoelige kenmerken waarvan sommige partijen afhankelijk zijn, zoals informatie over gender, ras, leeftijd en postcode — ook wanneer namen worden verwijderd. Zulke data kunnen nog steeds herleidend zijn, waardoor het privacyrisico blijft bestaan.
Totdat andere bedrijven aansluiten, blijft wel zichtbaar hoe lastig het is om AI-standaarden af te dwingen zonder wetgeving op nationaal niveau. In dat gat is het extra belangrijk dat de last van bescherming niet bij ouders of scholen terechtkomt, maar bij de techbedrijven die de tools leveren.
Als je hier meer over wilt lezen in een cybercontext: het concept van “lopende zekerheid” en het onderbouwen van veiligheid door controlemechanismen sluit inhoudelijk aan bij dezelfde gedachte dat alleen regels op papier niet genoeg zijn. Zie ook continue controle voor echte zekerheid.
De rol van andere techreuzen: OpenAI, Anthropic en Google
De overeenkomst met AFT staat niet op zichzelf. Twee andere grote AI-bedrijven, OpenAI en Anthropic, zeggen dat ze gesprekken voeren met de AFT over vergelijkbare safety- en privacy-afspraken.
OpenAI — maker van ChatGPT — noemde het initiatief een belangrijke mijlpaal voor AI-veiligheid en privacy in scholen. Anthropic — maker van Claude — spreekt over het ondersteunen van verantwoord gebruik in het onderwijs en zegt samen te werken aan wat zij zien als een “gold standard” voor veiligheid en privacy.
Tegelijk blijft de vraag open hoe Google zich opstelt. Google is voor veel Amerikaanse scholen dominant in education technology. In eerdere berichtgeving kwam het bedrijf in opspraak toen het in augustus de Gemini-chatbot inschakelde voor veel K-12 leerlingen die gebruikmaken van Google Classroom. Tot dan toe was Gemini vooral beschikbaar voor 18-plussers. Critici zagen dit als een escalatie in de race om scholen en leerlingen te winnen.
Weingarten (AFT) zegt dat ze Google voorafgaand aan de publicatie van het akkoord direct benaderde, met hoop dat Google signatory zou worden. Volgens het bericht heeft Google niet publiek gereageerd op de vraag of het vergelijkbare bescherming biedt.
Moratorium in New York en Los Angeles
Ondertussen kiezen New York City en Los Angeles voor een terughoudende aanpak. Zij zetten het gebruik van AI in het onderwijs een jaar lang “op pauze” terwijl ze onderzoeken hoe AI het beste en veiligste kan worden geïntegreerd. Dat moratorium is vooral bedoeld om de risico’s van dataprivacy, transparantie en accountability scherp te krijgen.
In New York geldt het verbod voor alle leerlingen in het basisonderwijs en voortgezet onderwijs tot en met de middle school. In Los Angeles loopt de beperking door tot en met de high school. Daarnaast plannen beide districten uitgebreide audits van onderwijscontracten en AI-tools, met focus op privacy, helderheid over werking en verantwoording.
Wat betekent dit voor scholen en ouders?
Voor ouders en leerlingen is het vooral een signaal dat privacy niet alleen “beantwoord moet worden” bij incidenten, maar ook vooraf geborgd moet zijn. De AI-privacy regels scholen leggen namelijk concretisering op tafel: geen training op studentdata, geen verkoop en geen advertentiedoeleinden, plus beperkingen op functies die emotionele afhankelijkheid kunnen stimuleren.
Voor scholen is de praktische vraag: hoe vertaal je dit naar contracten en leveranciersbeheer? De afspraken met auditverplichtingen geven een voorbeeld van hoe je afspraken toetsbaar maakt. Tegelijk benadrukt het akkoord dat niet iedereen meedoet, en dat scholen alsnog zelf zullen moeten bekijken welke tools ze gebruiken en onder welke privacyvoorwaarden.
Daarom blijft het belangrijk om ook interne en externe risico’s te combineren: niet alleen “welke AI-tool”, maar ook welke gegevensstromen en afhankelijkheden er achter zitten. In de bredere discussie over AI-geregelde systemen en veiligheidsgrenzen past bijvoorbeeld ook het onderwerp waar Microsoft publieke richtlijnen hanteert. Zie Microsoft AI-gedragscode: grenzen voor cyberaanvallen.
Conclusie: een belangrijk startpunt, maar geen eindstation
Microsofts afspraken met de AFT vormen een duidelijke poging om AI-privacy in het onderwijs te structureren en toetsbaar te maken. De combinatie van beperkingen op training met studentdata, verbod op verkoop of advertenties en verplichte derde-partij audits geeft scholen en families concreet houvast.
Toch blijft de grootste uitdaging de versnippering van onderwijssoftware. Zolang niet alle AI-leveranciers — met name de grootste spelers — dezelfde standaarden omarmen, blijven scholen met onderhandelings- en implementatievraagstukken zitten. Wat dit initiatief vooral laat zien: betrouwbare AI in onderwijs vraagt niet alleen om “regels”, maar om controle, transparantie en consistente toepassing door de hele markt.
