Is AI 'kind van God'? Of einde van de mensheid? Anthropic zit in een spagaat

In dit artikel:

Het Amerikaanse AI-bedrijf Anthropic organiseerde recent een tweedaagse bijeenkomst met vijftien christelijke kerkleiders om het morele kompas van kunstmatige intelligentie te bespreken, zo meldt The Washington Post. Anthropic profileert zich consequent als “verantwoord” en zoekend naar ethische kaders, maar staat tegelijk in de vuurlinie van kritische experts vanwege een opvallende dubbelrol.

In Silicon Valley bestaan grofweg twee stromingen: efficiënt-altruïstische groepen die AI wél willen inzetten om de wereld te verbeteren maar bang zijn voor existentiële risico’s, en AI-versnellers die vooral kansen zien en snelle adoptie bevorderen. Anthropic positioneert zich bij de eerste stroming; oprichter Dario Amodei vertrok in 2021 van OpenAI uit onvrede over diens ethische koers en richtte sindsdien Anthropic op.

Toch roept Anthropic vragen op: het sloot een contract van 200 miljoen dollar met het Amerikaanse ministerie van Defensie, maar stelde voorwaarden tegen gebruik voor wapens of autonome massa-controlesystemen — een geschil dat ook bij de rechter speelt. Bovendien ontwikkelde het onlangs een bijzonder krachtig model voor cybersecurity dat het bedrijf uit angst voor misbruik nog niet publiekelijk vrijgaf. Die tegenstrijdigheden leiden tot scepsis: Paul Verhagen noemt het een “rare spagaat” en hoogleraar Jeroen van den Hoven waarschuwt voor wantrouwen, al geeft hij Anthropic het voordeel van de twijfel omdat zelfopgelegde regels bedrijven inderdaad vast kunnen leggen.

Kortom: Anthropic zoekt morele legitimatie en toont terughoudendheid op papier, maar combineert dat met commerciële en militaire betrokkenheid en het snel uitbrengen van krachtige technologieën — een spanningsveld dat de discussie over verantwoordelijkheid in de AI-sector scherp illustreert.