Paus Leo XIV deed maandag een krachtig beroep op internationale toezicht op kunstmatige intelligentie, met de waarschuwing dat geheime algoritmes in handen van een kleine groep invloedrijke private bedrijven nieuwe vormen van dehumanisering kunnen inluiden.
In het langverwachte document getiteld Magnifica Humanitas benadrukte de paus dat kunstmatige intelligentie niet onder de exclusieve controle van een beperkt aantal actoren mag blijven. Hij merkte op dat de technologie al was ingezet in het recente conflict tussen de VS en Israël waarbij Iran betrokken was.
De paus benadrukte verder dat de lopende technologische transformatie niet mag worden geleid door wat hij de afgoderij van de winst noemde.
Afwijzend van de gebruikelijke praktijk woonde Paus Leo de presentatie van zijn eigen encycliek bij in het Vaticaan. Hij werd vergezeld door Christopher Olah, oprichter van het AI-bedrijf Anthropic, samen met verschillende hoge katholieke geestelijken en theologen.
Anthropic heeft recentelijk meerdere bijeenkomsten georganiseerd gericht op geloofsgemeenschappen en heeft christelijke leiders ontvangen in haar faciliteiten om spirituele vragen te verkennen die verband houden met haar AI-ontwikkeling.
Afgelopen februari verzette Anthropic-topman Dario Amodei zich tegen verzoeken van het Pentagon voor onbeperkte militaire toegang tot het Claude AI-assistent van het bedrijf, wat frictie veroorzaakte met de Trump-regering en het Ministerie van Defensie.
Het document opent met een directe oproep aan de gedeelde oorsprong van de mensheid. Verdeeld in vijf hoofdstukken stelt het vast dat technologie op zichzelf geen inherente tegenstelling tot mensen draagt en niet van nature kwaad is, volgens Vatican News. Tegelijkertijd stelt het dat technologie nooit neutraal is omdat het de waarden weerspiegelt van degenen die het creëren, financieren, reguleren en toepassen.
Humanity, created by God in all its grandeur, is today facing a pivotal choice: either to construct a new Tower of Babel or to build the city in which God and humanity dwell together.