Anthropic bereidt zich voor op een grote beursgang al in half november. De stap plaatst het ai-bedrijf in het middelpunt van een intens debat over hoe markten de mogelijkheid van catastrofale uitkomsten van geavanceerde kunstmatige intelligentie moeten prijzen.
AI-onderzoekers hebben openlijk scenario's besproken waarin geavanceerde systemen kunnen bijdragen aan het uitsterven van de mensheid, waarbij sommige schattingen de kans op 10 procent of hoger leggen. Anthropic CEO Dario Amodei heeft specifieke gevaren benadrukt, waaronder het verlies van menselijke controle over AI en het mogelijke misbruik van dergelijke technologie bij cyberaanvallen of bioterrorisme.
Deze discussies creëren een unieke uitdaging voor iedereen die de waarde van het bedrijf evalueert voorafgaand aan de beursgang. Waarnemers wijzen op het ontbreken van duidelijke juridische precedenten voor het aansprakelijk stellen van bedrijven in de meest extreme gevallen, waardoor potentiële kopers voor een eenvoudige keuze staan: het risico accepteren of afhaken.
Slow Ventures-partner Sam Lessin heeft voorgesteld dat toezichthouders AI-laboratoria verplichten om 1 biljoen dollar in escrow-fondsen te reserveren. De maatregel zou vergelijkbaar zijn met de eisen na de financiële crisis van 2008 voor banken om extra kapitaal aan te houden tegen verliezen. Lessin waarschuwde dat zelfs dit bedrag tekort kan schieten.
De aansprakelijkheden kunnen een risico van 2 biljoen of 4 biljoen dollar voor de samenleving vormen, nog voordat je de massale uitsterving waarover ze praten meeneemt, waardoor de bedrijven overall minder dan nul waard zijn.
Zonder vastgestelde regels voor rogue AI-agenten lijkt de markt deze staartrisico's waarschijnlijk te verdisconteren. Vergelijkbare high-stakes weddenschappen op kunstmatige intelligentie hebben elders al vruchten afgeworpen. SpaceX-aandelen bijvoorbeeld noteren meer dan 20 procent boven hun juni-aanbodprijs ondanks de eigen AI-ambities van het bedrijf.
De discussie rond Anthropic komt te midden van verschuivende marktomstandigheden. De S&P 500 staat op het punt te herstellen van recente verliezen, terwijl de olieprijzen zijn gedaald en zorgen over de duurzaamheid van de bredere AI-investeringsgolf enigszins zijn afgenomen.
In een afzonderlijke ontwikkeling hebben Chinese toezichthouders toegestaan dat meer dan 40 procent van de panda bond-opbrengsten dit jaar offshore vloeit. Dit markeert het hoogste aandeel ooit en maakt het land tot een ongebruikelijke bron van goedkoop kapitaal voor buitenlandse leners nu de binnenlandse tarieven dalen.