Comptroller van New York waarschuwt dat Anthropic-IPO aandeelhoudersmacht over AI-veiligheid ondermijnt

Mark Levine stelt dat de geplande beursgang het toezicht verzwakt terwijl catastrofale risico’s van geavanceerde modellen om sterkere verantwoording vragen.

New York City Comptroller Mark Levine heeft nieuwe zorgen geuit over de aanstaande beursgang van Anthropic. Hij stelt dat de voorgestelde governance-structuur beleggers buitenspel zet en het beheer van risico’s van krachtige kunstmatige intelligentie bemoeilijkt.

Details uit IPO-documenten leiden tot nieuwe waarschuwingen

De zorgen volgen uit de S-1-aanmelding van Anthropic van 26 oktober. Levine zei tegen Bloomberg dat de documenten een zorgwekkende verschuiving van macht naar het management en weg van aandeelhouders laten zien. Hij merkte op dat het bedrijf zelf in de aanmelding “catastrofale of existentiële risico’s voor de mensheid” door AI benadrukt, terwijl het belooft de ontwikkeling te pauzeren als veiligheidsproblemen zich voordoen.

Levine, die toezicht houdt op publieke pensioenfondsen met meer dan 325 miljard dollar, zei dat de belangen traditionele bescherming van aandeelhouders belangrijker maken dan ooit. Toch blijkt uit de aanmelding dat die bescherming is teruggeschroefd, waardoor gewone beleggers beperkt invloed kunnen uitoefenen.

Vergelijking met SpaceX roept bredere zorgen op

Levine trok een directe parallel met de beursgang van SpaceX in juni, waarbij Elon Musk meer dan tachtig procent van de stemrechten verwierf terwijl hij meerdere topfuncties bekleedde. Hij beschreef beide gevallen als onderdeel van een groeiende trend waarbij oprichters buitensporige controle behouden, maar voegde toe dat de structuur van Anthropic de machtsconcentratie nog verder doorvoert.

Woordvoerders van beide bedrijven reageerden niet op verzoeken om commentaar.

Public benefit corporation-model onder de loep

Anthropic wil opereren als public benefit corporation, waarbij de zeven oprichters en een onafhankelijke trust na de IPO de controle behouden. Het ontwerp beoogt veiligheid boven directe financiële rendementen te stellen. De raad van bestuur bepaalt echter zelf wat succes inhoudt en de aanmelding stelt dat Anthropic niet kan garanderen dat het zijn publieke doelstellingen haalt of de verwachte positieve effecten levert.

We zien een zeer zorgwekkende trend van ontmachtiging van aandeelhouders waarbij alle macht naar het management verschuift.

— Mark Levine, New York City Comptroller, Interview met Bloomberg

Beleggers reageren wisselend

Andere stemmen in de beleggingswereld onderschreven delen van Levines kritiek. Miranda Beacham van Aegon Asset Management wees op de noodzaak van voortdurende grote kapitaalverhogingen, die kunnen leiden tot forse verwatering voor bestaande aandeelhouders die geen invloed hebben op het proces. Nell Minow van ValueEdge Advisors prees de goede intenties van Anthropic, maar waarschuwde dat het bedrijf een nieuw stel governance-uitdagingen creëert.

Niet alle beleggers delen dezelfde mate van zorg. Anders Schelde van het Deense pensioenfonds AkademikerPension zei dat oprichterscontrole niet ideaal is, maar begrijpelijk tijdens een groeifase, en hij verwees naar vertrouwen in de publieke uitspraken over veiligheid van CEO Dario Amodei.

Levine zelf erkende dat Anthropic meer op veiligheid gericht lijkt dan sommige concurrenten en noemde het onderdeel van het DNA van het bedrijf. Toch betoogde hij dat het bedrijf de AI-race heeft versneld op manieren die veiligheid kunnen ondermijnen en dat het via sterkere aandeelhoudersmechanismen verantwoording moet afleggen.

Tags bij dit artikel