OpenAI heeft aangekondigd dat het een groep Russische ChatGPT-accounts heeft geblokkeerd. Volgens het bedrijf werden de accounts ingezet om een invloedscampagne uit te voeren, met gebruik van VPN’s om beperkingen te omzeilen en om de herkomst van de operators te verbergen.
De campagne richtte zich op het verspreiden van content via meerdere platforms. De gegenereerde teksten werden onder meer geplaatst op Substack, Telegram, X, Facebook en LinkedIn. OpenAI noemt het bereik relatief beperkt, maar benadrukt vooral het grotere punt: de infrastructuur en “geloofwaardigheid” die met AI-ondersteuning werd opgebouwd.
Hoe de AI-invloedoperatie via ChatGPT werd opgezet
OpenAI beschrijft dat het begon met een onderzoek naar AI-gegenereerde social media-uitingen. Al snel bleek dat er een bredere operatie achter zat, met meerdere elementen die samen een verhaal moesten laten landen.
De operators zouden ChatGPT gebruiken om social posts en reacties te produceren. Tegelijk gaven ze aanwijzingen om taalkenmerken te verbergen die naar een Russische herkomst konden wijzen. Het grootste deel van de output was in het Engels.
Van social posts naar een “expertcommunity”
De campagne promote International Burke Institute (IBI), dat zichzelf omschrijft als een “expert community”. OpenAI koppelt de geblokkeurde accounts aan pogingen om dit merk te ondersteunen met content op verschillende kanalen.
Volgens OpenAI is er geen aanwijzing dat artikelen op de IBI-website rechtstreeks door ChatGPT zijn gemaakt. Wel lijken veel stukken te zijn gekopieerd uit academische teksten, soms met onjuiste toeschrijving. Andere delen lijken eerst door een Slavischsprekende auteur te zijn opgesteld en daarna machine- vertaald naar het Engels.
Dat verschil tussen AI-gegenereerde posts en de inhoud op de website is belangrijk: de AI werd gebruikt als hulpmiddel in een groter geheel, niet als volledige bron van alle content.
De Burke Index als legitimatie-instrument
Een opvallend onderdeel is de website met een zogenaamde “sovereignty” index, ook bekend als de Burke Index. OpenAI vermeldt dat de index wordt berekend met zeven indicatorgebieden: politiek, economie, technologie, informatie, cultuur, cognitieve en militaire soevereiniteit.
De site presenteert vervolgens een gestandaardiseerde werkwijze. Elk van de zeven onderdelen zou worden uitgewerkt via gelijkmakingscoëfficiënten en resulteren in een eindscore die in totaal ligt tussen 100 en 700, oftewel een Cumulative Sovereignty Index.
Met dit soort methodiek probeert een campagne vaak autoriteit te imiteren: niet alleen berichten delen, maar ook de indruk wekken dat er een “meetbaar” en “expertmatig” kader bestaat.
Voorbeelden uit de gepubliceerde scores
OpenAI noemt enkele scores uit rapporten op de IBI-website. De Verenigde Staten zouden volgens de index op 650,9 uitkomen, China op 649,1, Zwitserland op 610,7 en Rusland op 601,4.
Daarnaast beschrijft OpenAI een beoordelingsparagraaf over Rusland: die zou in 2025 een hoge mate van soevereiniteit hebben, met sterke militaire en economische zelfvoorziening, een basis in wetenschap en cultuur, maar met beperkte flexibiliteit van de civiele economie en afhankelijkheid van interne administratieve kapitaalstromen. De website noemt ook demografie, investeringen in hightech en geleidelijke liberalisatie van niet-militaire wetenschap en innovatie als versterkende routes.
Waar de campagne zichtbaar werd
De operatie zou volgens OpenAI vooral kleine doelgroepen hebben bereikt, met Telegram als uitschieter. Daarbij rapporteert OpenAI dat Telegramkanalen per kanaal ongeveer 10.000 tot 20.000 volgers verzamelden.
Opvallend is ook dat één gebruiker ChatGPT zou hebben gebruikt om een profielfoto te maken voor een Telegram-kanaal genaamd “American Observer”. Daarnaast zouden er herhaaldelijk verzoeken zijn gedaan om samenvattingen in het Russisch van de kanaalactiviteit.
Dat toont dat AI niet alleen voor marketing kan dienen, maar ook voor het versnellen of structureren van contentanalyse en communicatie—binnen de grenzen van wat de operators nodig hebben.
Waarom OpenAI dit blokkeert: AI als bouwsteen voor autoriteit
OpenAI stelt dat de betekenis van de operatie minder ligt in het aantal bereikte mensen en meer in de infrastructuur die is opgebouwd. De acteurs gebruikten ChatGPT weliswaar om “geïsoleerde” promotionele posts te maken, maar die posts wezen naar een ogenschijnlijk geloofwaardige instelling met vermeende experts en een eigen “risico”- of indexcomponent.
Met andere woorden: zelfs wanneer AI alleen als ondersteuningslaag wordt ingezet, kan het helpen om een bredere operatie te verankeren. Denk aan het omzetten van ideeën naar publikaties, het consistent houden van toon en timing, en het opbouwen van een verhaal dat plausibel oogt.
Dit soort patronen sluit aan bij een breder thema in digitale veiligheid: beïnvloedingscampagnes worden steeds vaker “productie-achtig” ingericht. Ook op onze site behandelen we hoe kwaadwillenden technologie inzetten om geloofwaardigheid na te bootsen, bijvoorbeeld bij het gebruik van AI in social engineering en desinformatieprocessen. Lees ook: AI supergebruikers en shadow AI-risico.
Verschillend van andere bekende Rusland-gekoppelde operaties
OpenAI geeft aan dat deze campagne apart staat van reeds gedocumenteerde Rusland-gekoppelde invloedoperaties. De meest kenmerkende factor zou juist de creatie van een “sovereignty index” zijn die positief voor Rusland werd gepromoot en tegelijk Westerse landen bekritiseerde.
Daarmee valt de operatie in dezelfde categorie als campagnes die niet enkel berichten plaatsen, maar ook een eigen “wetenschappelijke” of “data-gedreven” rechtvaardiging proberen te bouwen. Zulke formats kunnen later opnieuw worden opgeschaald, ook wanneer de oorspronkelijke social channels minder groot zijn.
Wat organisaties hiervan kunnen leren
Hoewel het om geblokkeurde ChatGPT-accounts gaat, is de bredere les praktisch: AI maakt het eenvoudiger om sneller content te variëren en te publiceren. De echte dreiging ontstaat wanneer die content onderdeel wordt van een groter narratief met een herkenbaar merk, een website en reproduceerbare thema’s.
Een paar aandachtspunten:
- Let op “autoriteit” als vector: als een bron claimt experts en meetmethoden te hebben, verifieer dan de onderbouwing en herkomst van teksten.
- Check toeschrijving en hergebruik: kopieën uit academische literatuur met valse of ontbrekende bronvermelding zijn een waarschuwingssignaal.
- Onderzoek taalpatronen niet op zichzelf: operators proberen aanwijzingen te maskeren. Kijk daarom ook naar timing, linkstructuur, domeinregistratie en consistentie van claims.
- Gebruik platformsignalen: wanneer campagnes zichtbaar worden via meerdere kanalen, kan correlatie tussen kanalen helpen om de operatie als geheel te herkennen.
Voor wie zich richt op beïnvloeding en AI-risico’s binnen productieomgevingen kan ook nuttig zijn om breder te kijken naar hoe systemen bewijs en oorsprong kunnen vastleggen. Zie bijvoorbeeld: TRACE voor AI-runtime attestation: bewijs standaardiseren.
Conclusie
De door OpenAI geblokkeerde accounts illustreren hoe een AI-ondersteunende aanpak kan bijdragen aan een grotere invloedscampagne. In dit geval ging het om een netwerk dat via VPN’s toegang omzeilde, Engelstalige social media-berichten produceerde met ChatGPT, en die content koppelde aan de International Burke Institute-website met een Burke/Sovereignty Index.
Het bereik van de campagne wordt door OpenAI als relatief klein omschreven, maar de infrastructuur en het imiteren van autoriteit maken de operatie relevant als waarschuwingssignaal. Wie online informatie serieus neemt, moet daarom verder kijken dan alleen “is het door AI geschreven?”, en ook letten op bron, context en de samenhang van het verhaal.
Bron: https://thehackernews.com/2026/08/openai-bans-russian-chatgpt-accounts.html
