Dario Amodei: de 'ideologische gek' die met Anthropic de mensheid wil redden

In dit artikel:

De ruzie tussen AI-bedrijf Anthropic en de Amerikaanse regering is in het voorjaar hoog opgelopen. Defensieminister Pete Hegseth verwijt topman Dario Amodei dat hij zich bemoeit met besluiten die aan de regering toekomen. Anthropic weigert al maanden toestemming om zijn krachtige AI-model Claude in te zetten voor volledig autonome wapens en massasurveillance. Volgens Hegseth gedraagt het bedrijf zich daardoor alsof het bepaalt op wie het Amerikaanse leger mag schieten. De confrontatie krijgt extra gewicht door de dreigende oorlog met Iran.

Amodei, geboren in 1983 in San Francisco, richtte Anthropic in 2021 op nadat hij samen met zijn zus Daniela en andere onderzoekers bij OpenAI was vertrokken. Daniela leidt er de dagelijkse bedrijfsvoering. De familiegeschiedenis en het verzet van hun ouders tegen onrecht zouden bij Dario hebben bijgedragen aan een sterk moreel verantwoordelijkheidsgevoel. Als student natuurkunde aan Caltech protesteerde hij al tegen de invasie in Irak.

Na de dood van zijn vader aan hepatitis C in 2006 raakte Amodei ervan overtuigd dat technologische vooruitgang levens kan redden. Hij stapte over van biofysica naar AI, omdat hij verwachtte dat kunstmatige intelligentie wetenschappelijk onderzoek sterk zou versnellen. Bij Baidu ontdekte hij dat AI-systemen aanzienlijk beter worden door meer data, rekenkracht en training. Die overtuiging nam hij mee naar OpenAI, waar hij een belangrijke rol speelde bij de ontwikkeling van GPT-2 en GPT-3.

Bij OpenAI groeide tegelijk zijn bezorgdheid over de risico’s van steeds krachtigere taalmodellen. Amodei vreesde dat ze verkeerd ontwikkeld of door verkeerde partijen gebruikt konden worden, terwijl anderen binnen het bedrijf vooral commerciële kansen zagen. Volgens techjournalist Karen Hao draaide zijn vertrek eind 2020 daarom niet alleen om veiligheid, maar ook om invloed: Amodei wilde meer zeggenschap over de richting van AI. Zijn zus vertrok eveneens.

Anthropic presenteerde zich vanaf de oprichting als een veiliger en moreler alternatief voor OpenAI. Het bedrijf ontwikkelde Claude met grote hoeveelheden data en veel rekenkracht; het model onderscheidde zich door samenhangende taal en sterke programmeervaardigheden. Ook Anthropic nam echter controversiële stappen, zoals het heimelijk digitaliseren van grote aantallen boeken uit een illegale database en fysieke boekencollecties. Het bedrijf bracht Claude pas op de markt nadat OpenAI met ChatGPT de commerciële AI-race had geopend.

Amodei wordt beïnvloed door het effectief altruïsme, een stroming die geld en technologie wil inzetten om zo veel mogelijk goed te doen en existentiële risico’s te beperken. Hij ziet AI als een middel om ziekten te bestrijden, economische ontwikkeling te versnellen en klimaatproblemen aan te pakken. Tegelijk waarschuwt hij voor verlies van menselijke controle en grootschalige werkloosheid.

Zijn positie blijft daardoor tegenstrijdig. Amodei wil de ontwikkeling van AI versnellen omdat die volgens hem levens kan redden, maar vreest ook de gevolgen van diezelfde wedloop. Hoewel Anthropic grenzen trok bij het gebruik van Claude voor autonome wapens, was het model al betrokken bij Palantirs Maven-systeem voor militaire doelwitselectie en bij de opsporing van migranten door ICE. Amodei heeft inmiddels gezegd dat hij dergelijk wapen gebruik niet categorisch uitsluit, maar dat Claude daar nu nog niet geschikt voor is. Critici concluderen daarom dat Anthropic uiteindelijk minder verschilt van OpenAI dan het bedrijf zelf beweert.