Paus Leo XIV deed maandag een directe oproep tot strikt toezicht op kunstmatige intelligentie, waarbij hij waarschuwde dat ondoorzichtige algoritmes die worden gecontroleerd door een klein aantal particuliere bedrijven kunnen leiden tot nieuwe vormen van dehumanisering.

Paus presenteert encycliek persoonlijk in Vaticaan

De paus brak met traditie door het document getiteld Magnifica Humanitas persoonlijk te presenteren in het Vaticaan. Hij verscheen samen met Christopher Olah, oprichter van het AI-bedrijf Anthropic, evenals hoge katholieke geestelijken en theologen.

De encycliek, verdeeld in vijf hoofdstukken, stelt dat technologie op zichzelf niet inherent vijandig is tegenover mensen noch van nature kwaad. Het benadrukt dat technologie altijd de waarden weerspiegelt van degenen die het creëren, financieren, toezicht houden en toepassen.

Belangrijke waarschuwingen over bedrijfskracht en winst

Paus Leo benadrukte dat AI niet onder controle mag blijven van een beperkte groep actoren. Hij noemde recent gebruik van de technologie tijdens de VS-Israël Oorlog tegen Iran en drong erop aan dat de lopende technologische verschuiving wat hij de afgoderij van de winst noemde, moet afwijzen.

Bereik van Anthropic naar geloofsgemeenschappen

Anthropic heeft het afgelopen jaar actief contact gezocht met religieuze groepen. Het bedrijf heeft evenementen georganiseerd gericht op geloofsgemeenschappen en christelijke leiders welkom geheten op het hoofdkantoor voor discussies over spirituele vragen en AI-ontwikkeling.

In februari weigerde CEO Dario Amodei verzoeken van het Pentagon voor onbeperkte militaire toegang tot de Claude AI-assistent, wat spanningen creëerde met de Amerikaanse regering en het Ministerie van Defensie.