Direct naar de inhoud
Beveiligingsnieuws

Anthropic IPO: zorgen over existentiële AI-risico’s

Anthropic IPO

De Anthropic IPO is in volle gang: het bedrijf heeft financiële documenten ingediend voor een beursintroductie die mogelijk uit kan groeien tot een van de grootste ooit. Tegelijk laat de top van Anthropic geen twijfel over het grotere plaatje—geavanceerde kunstmatige intelligentie zou volgens de CEO zelfs een existentiële bedreiging voor de mensheid kunnen vormen.

Het nieuws komt op een moment dat de AI-sector onder druk staat: kosten lopen op, beleggers worden voorzichtiger en er klinkt steeds vaker een roep om tempo te matigen. In dit artikel zetten we de belangrijkste punten uit de aankondiging en de door Anthropic beschreven risico’s op een rij.

Waarom de Anthropic IPO zoveel aandacht trekt

Anthropic heeft plannen ingediend voor een beursgang in San Francisco, met een mogelijke Wall Street-debuut volgende maand. De kans is aanwezig dat de introductie de recordmaat van eerdere megadeals overstijgt, waarmee de interesse van zowel marktpartijen als de publieke opinie groeit.

Volgens de ingediende stukken gaat het bedrijf naar de beurs met notering op Nasdaq onder het ticker-symbool ANT. Daarnaast wordt het effect van de beursgang niet alleen financieel gezien: extra kapitaal kan helpen om sneller uit te breiden, infrastructuur te investeren en eventueel ook andere bedrijven of technologie over te nemen.

Snel groeiende omzet, nog steeds geen winst

Een van de opvallende onderdelen in de documenten is de omzetgroei. Anthropic rapporteert dat de inkomsten in de eerste helft van het jaar sterk zijn gestegen tot meer dan 16 miljard dollar. Dat is een veelvoud van het niveau in dezelfde periode een jaar eerder.

Toch is er nog geen winstgevendheid. De markt kijkt dus niet alleen naar groei, maar ook naar de vraag hoe lang het bedrijf de verliezen kan blijven dragen—een vraag die voor veel technologiebedrijven die naar de beurs gaan, extra scherp is.

Hoe groot kan de waardering worden?

De marktverwachtingen rond de Anthropic IPO zijn ambitieus. In het verhaal rond de aanvraag wordt gesuggereerd dat de waardering kan stijgen richting 1,5 biljoen tot mogelijk 2 biljoen dollar. Het exacte bedrag is uiteindelijk afhankelijk van factoren zoals de finale prijs en het definitieve aanbod.

Als de hoogste veronderstellingen kloppen, zou Anthropic niet alleen bij de grootste publieke bedrijven kunnen aansluiten, maar ook qua rangorde vergelijkbaar kunnen worden met partijen die nu al tot de top van de beurswereld behoren.

Kapitaal, verwatering en de hefboom voor oprichters

Behalve investeringen in het bedrijf zelf wordt ook gekeken naar wat de beursgang betekent voor de founders. Er wordt in de context van de cijfers gesproken over een zeer grote vermogenswinst voor de oprichters, waaronder CEO Dario Amodei en Daniela, medeoprichter en president van Anthropic. Het document vermeldt niet rechtstreeks de exacte eigendomspercentages in het deel dat publiek is gedeeld, maar andere openbaar gemaakte figuren duiden op substantiële belangen.

Dat maakt de Anthropic IPO niet alleen een zakelijke gebeurtenis, maar ook een moment waarop de verdeling van aandelen en stemrechten zichtbaar wordt—en daarmee ook hoe het bedrijf omgaat met macht, toezicht en lange-termijn doelstellingen.

Unieke governance: stemgewicht en een trustconstructie

In de filings staan ongebruikelijke bepalingen voor governance. Zo krijgt een groep oprichters via een speciale aandelenklasse 50,1% van de stemrechten. Daarbij is er volgens de documenten ook sprake van een Long-Term Benefit Trust met onafhankelijke leden die financiële belangen op afstand moeten houden.

Het doel van die structuur is om te voorkomen dat kortetermijnbelangen van aandeelhouders de koers domineren. In de praktijk gaat het om de vraag: wat moet er gebeuren als veiligheid, maatschappelijke impact en regelgeving botsen met financiële prikkels?

Risico’s in het bijzonder: kwaadwillenden en controleverlies

Anthropic beschrijft in de documenten een lange lijst aan “risk factors”, die in totaal bijna 100 pagina’s kan beslaan. Naast meer gebruikelijke punten—zoals het behouden van personeel en het omzeilen van juridische of regulatorische obstakels—worden ook zwaardere scenario’s genoemd.

Onder die zwaardere risico’s valt de mogelijkheid dat malicious actors AI gebruiken voor het ontwikkelen van chemische wapens. Ook wordt beschreven dat autoritaire machthebbers technologie kunnen inzetten voor onderdrukking en massaal toezicht. Bovendien noemt het bedrijf het scenario dat AI-modellen “kunnen weglopen” en catastrofale of zelfs existentiële gevolgen kunnen hebben.

Deze formuleringen sluiten aan op bredere zorgen binnen de sector: hoe voorkom je dat AI-systemen buiten de beoogde kaders handelen, en hoe zorg je dat veiligheidsmaatregelen niet achterblijven?

“AI moet vertragen”: waarschuwing van Amodei

CEO Dario Amodei heeft eerder gepleit voor een vertraging in de ontwikkeling van AI. Zijn redenering: safety-mechanismen moeten tijd krijgen om bij te blijven. Zonder zo’n rem zou geavanceerde AI volgens hem in staat kunnen zijn om een zwerm van agenten te laten opereren—met als worstcases gevolgen die zich snel kunnen uitstrekken.

In die context wordt ook gesproken over de behoefte aan checks in de industrie én coördinatie met overheden wereldwijd. Daarbij wordt nadrukkelijk gewezen op de noodzaak van afspraken, ook met landen die bekendstaan om strengere of autoritaire toepassingen.

Beveiligingsperspectief: waarom dit ook cybersecurity raakt

Hoewel de Anthropic IPO vooral een financiële mijlpaal lijkt, raakt de inhoud van de risico’s direct aan het werkterrein van security teams. Zodra AI gebruikt kan worden door kwaadwillenden, verandert de dreigingsrealiteit: aanvallen kunnen sneller worden voorbereid, en bestaande aanvalsketens kunnen worden geoptimaliseerd met behulp van geautomatiseerde agenten.

Op onze site besteden we ook aandacht aan het risico van AI-agenten in bredere aanvalsscenario’s. Zo leggen we bijvoorbeeld uit hoe agent-gedreven misbruik in de praktijk kan landen in echte incidenten, zoals in artikelen over ransomwareketens met agentische componenten en over de gevaren van tokens en acties bij supply-chain en account-compromissen.

Deze onderwerpen zijn niet hetzelfde als governance rond een beursintroductie, maar ze tonen wel één rode draad: wanneer AI slimmer wordt, moeten detectie, incidentrespons en preventie mee evolueren.

Conflicten met de overheid en supply-chain claims

Naast veiligheid en technische risico’s speelt ook beleid. Anthropic heeft volgens de beschikbare informatie een conflict met de Amerikaanse overheid, dat begon met beschuldigingen dat het bedrijf nationale veiligheid zou kunnen schaden. Daarbij werd het bedrijf gezien als een supply chain risk.

Anthropic reageerde met juridische stappen: het bedrijf spande een rechtszaak aan tegen het Pentagon over de manier waarop de classificatie tot stand kwam. Resultaten waren gemengd: in de ene procedure kreeg Anthropic gelijk, terwijl een andere zaak in het voordeel van de overheid uitpakte. In beide gevallen loopt er hoger beroep.

Dit conflict is relevant voor de bredere beveiligingsdiscussie, omdat het laat zien hoe dicht technologie, defensie, regulering en veiligheid elkaar raken.

Wat betekent dit voor organisaties en besluitvormers?

Voor organisaties—zeker die AI of AI-gestuurde tooling gebruiken—komt er een duidelijke boodschap uit deze ontwikkeling. De Anthropic IPO gaat niet alleen over geld; ze benadrukt ook dat grote AI-spelers zelf openlijk wijzen op zware risico’s: misbruik door kwaadwillenden, controleverlies en maatschappelijke gevolgen.

Daarom is het verstandig om bestaande veiligheidspraktijken door te trekken naar AI-workflows: denk aan risicobeoordelingen voor agenten, strakke toegangscontrole, monitoring op afwijkend gedrag en een plan voor incidentrespons als systemen niet doen wat je verwacht.

Conclusie: groot geld, maar ook groot waarschuwingsgeluid

De Anthropic IPO staat op het punt een historische beursbeweging te worden, met snelle omzetgroei en een potentieel heel hoge waardering. Toch benadrukt de CEO in de filings dat geavanceerde AI niet alleen kansen biedt, maar ook existentiële dreigingen kan bevatten—van kwaadwillig gebruik tot scenario’s waarin controle en veiligheid tekortschieten.

Het komende beursmoment is daarmee meer dan een financieel hoofdstuk. Het is ook een katalysator voor een steeds urgenter debat: hoe bouw je AI sneller, veiliger en met voldoende governance, voordat de risico’s groter worden dan de techniek aankan.

Bron: https://www.securityweek.com/anthropic-files-for-potentially-the-biggest-ipo-ever-as-ceo-warns-of-risk-to-humanity-from-ai/