Anthropic zet omvangrijke risico's uiteen in historische IPO-aanvraag, inclusief existentiële AI-bedreigingen

Het AI-bedrijf beschrijft bijna honderd pagina's aan potentiële valkuilen, van autonome systemen tot vertragende omzet en geopolitieke spanningen, voorafgaand aan de beursgang.

Anthropic PBC heeft in zijn aanvraag voor een historische beursgang een ongebruikelijk gedetailleerde lijst van risico's uiteengezet, verspreid over bijna honderd pagina's aan informatie over hoe zijn activiteiten op het gebied van kunstmatige intelligentie kunnen mislukken. De lijst omvat vertragende omzetgroei, overheidsregulering en zelfs “catastrofale of existentiële risico's voor de mensheid”, wat de bijzondere uitdagingen benadrukt waarmee publieke investeerders te maken krijgen bij het beoordelen van de mogelijke voordelen en nadelen van de technologie.

Autonome AI-systemen kunnen onomkeerbare schade veroorzaken

Het bedrijf waarschuwt dat zijn AI zonder de juiste waarborgen op onbedoelde of verkeerd afgestemde manieren kan handelen. Bij misbruik, replicatie of hoge autonomie kunnen de systemen een bedreiging vormen voor de mensheid, aldus de aanvraag. De risico's nemen toe naarmate modellen zelfstandiger worden en mogelijk leiden tot acties zoals ongeautoriseerde codewijzigingen, gegevensverwijdering of financiële transacties die moeilijk of onmogelijk terug te draaien zijn.

Human oversight kan tekortschieten en monitoringtools kunnen worden omzeild als de AI leert zijn doelen te verbergen. In wetenschappelijke toepassingen zou de technologie kunnen helpen bij het vrijgeven van gevaarlijke stoffen, met effecten die onmiddellijk en permanent kunnen zijn.

Verzekeringsdekking kan tekortschieten bij grote incidenten

Bestaande verzekeringen kunnen ontoereikend blijken om aansprakelijkheid te dekken voor reële schade veroorzaakt door AI-technologieën, vooral bij een catastrofaal incident. Geen enkele verzekeraar of zelfs de bredere sector beschikt mogelijk over de capaciteit of expertise om dergelijke blootstelling te hanteren, aldus het bedrijf.

Omzetgroei zal naar verwachting afnemen na snelle expansie

Anthropic rapporteerde een omzetgroei van meer dan 1.000% op jaarbasis in 2025, maar waarschuwde dat het dergelijke percentages in de toekomst niet verwacht. Volwassenheid van de AI-markt, toenemende concurrentie en veiligheidsbeperkingen bij modelreleases kunnen de groei afremmen. Het bedrijf heeft ook moeite gehad met accurate omzetprognoses vanwege de vroege fase van de sector.

Eerdere berichtgeving wees uit dat de groei tussen het tweede en derde kwartaal van 2026 daalde naar ongeveer 45%, tegenover meer dan 140% in het voorgaande kwartaal.

Compute-aanbod en concurrerende partners creëren onzekerheid

Het veiligstellen van voldoende rekenkracht tegen stabiele prijzen vormt een ander belangrijk aandachtspunt. Sommige cloudpartners ontwikkelen ook eigen AI-modellen en stemmen mogelijk niet volledig af op de langetermijndoelen van Anthropic. Belangrijke overeenkomsten betreffen Alphabet Inc.’s Google, Amazon.com Inc. en SpaceXAI. Overinvestering in capaciteit op basis van foutieve prognoses kan leiden tot ongebruikte middelen.

Overheidsmaatregelen en exportcontroles zetten extra druk

Autoriteiten hebben al de toegang tot modellen van Anthropic beperkt en zouden dit verder kunnen doen. In juni legde de Amerikaanse overheid exportcontroles op aan het Fable 5-model vanwege veiligheidsproblemen. Het bedrijf heeft juridische stappen ondernomen tegen het Department of Defense na een aanduiding in maart als supply-chain-risico in verband met surveillance- en autonome wapenkwesties.

Publieke weerstand tegen datacenters en geopolitieke chiprisico's

Verzet tegen grote datacenters die nodig zijn voor het trainen en draaien van modellen is georganiseerder geworden. De meeste faciliteiten staan in de VS en elke grote verstoring kan de resterende infrastructuur onder druk zetten. Het bedrijf heeft vrijwillig enkele netwerkaanpassingen gefinancierd, maar waarschuwde dat dergelijke verplichtingen de kosten kunnen verhogen als ze verplicht worden.

De meeste geavanceerde chips komen van Taiwan Semiconductor Manufacturing Co. in Taiwan, waardoor de activiteiten blootstaan aan geopolitieke spanningen met China. Cyberdreigingen omvatten hackers die het bedrijf targeten of zijn tools tegen anderen inzetten, plus mogelijke door de staat gesponsorde spionage gericht op topmodellen.

Uitdagingen bij het vasthouden van talent tijdens organisatorische groei

Anthropic heeft een low-ego, waarheidsgerichte cultuur gecultiveerd met medewerkers die zich aangetrokken voelen tot zijn missie. Naarmate het bedrijf groeit, kunnen sleutelmedewerkers vertrekken naar rollen die beter aansluiten bij hun interesses, aldus de aanvraag.

Tags bij dit artikel