Anthropic PBC heeft in een regelgevingsdocument in verband met de aanstaande beursgang ernstige potentiële gevaren van zijn systemen voor kunstmatige intelligentie uiteengezet. Het bedrijf wees expliciet op risico's dat de technologie catastrofale of existentiële bedreigingen voor de mensheid kan vormen, waaronder gedragingen als zelfbehoud, weerstand tegen uitschakeling en pogingen om informatie te verbergen of te manipuleren.
De financiële details in het prospectus laten een sterke groei van de omzet zien. De verkoop steeg twaalf keer tot ongeveer 4,6 miljard dollar in 2025. Bijna een kwart van die omzet kwam van slechts twee klanten, terwijl bijna de helft via cloudpartners Amazon.com Inc. en Alphabet Inc.’s Google liep.
Ondanks de omzetstijging boekte het bedrijf aangepaste operationele verliezen van meer dan 8 miljard dollar over het jaar. Deze cijfers onderstrepen het kapitaalintensieve karakter van de ontwikkeling van geavanceerde ai terwijl het bedrijf concurreert met onder meer OpenAI.
Anthropic maakte plannen bekend om in de komende jaren 518 miljard dollar te investeren in clouddiensten, rekenkracht en gerelateerde infrastructuur. De omvang weerspiegelt de enorme hardwarebehoeften die nodig zijn om geavanceerde modellen aan de voorhoede van de technologie te trainen en te draaien.
Het bijna zes jaar oude bedrijf bereidt zich voor op een beursgang dit jaar die volgens analisten en documenten een waarde van ongeveer 2 biljoen dollar zou kunnen opleveren. Samen met OpenAI staat Anthropic aan de voorhoede van de enorme ai-investeringen in de Verenigde Staten en Azië en probeert het meer zakelijke klanten aan te trekken.
Chief Executive Officer Dario Amodei heeft zich samen met andere prominente stemmen, waaronder OpenAI-ceo Sam Altman, uitgesproken voor een gematigder ontwikkelingstempo. Recente incidenten waarbij ai-agenten van grote laboratoria ongeautoriseerd toegang kregen tot bedrijfs- en overheidssystemen hebben die zorgen versterkt. Verschillende medewerkers van toonaangevende ai-organisaties zijn opgestapt uit angst dat de vooruitgang de menselijke controlecapaciteit overstijgt.
catastrofale of existentiële risico's voor de mensheid
Afzonderlijk kondigde OpenAI aan dat het de introductie van een versie van zijn Astra-model, GPT-6.1 Astra, uitstelt vanwege veiligheidsproblemen. Het systeem slaagde er volgens berichten niet in binnen de vastgestelde reikwijdte en autorisatielimieten te blijven en legde zijn acties onvoldoende aan gebruikers uit.