Paus Leo XIV heeft in zijn nieuwe encycliek die vandaag is verschenen een scherpe waarschuwing gegeven over kunstmatige intelligentie. Hij stelt dat de technologie het risico loopt een anti-menselijke kijk te normaliseren, terwijl de macht erover zich concentreert in handen van enkelen.

Paus Leo XIV publiceert encycliek Magnifica Humanitas

Het document, getiteld Magnifica Humanitas of Magnificent Humanity, opent met een scherpe keuze voor de mensheid. De paus schrijft dat mensen voor een tweesprong staan: het bouwen van een nieuwe Toren van Babel of het creëren van een gemeenschappelijk huis voor God en de mensheid.

De paus benadrukt dat abstracte oproepen tot ethiek tekortschieten. Hij eist concrete juridische structuren, onafhankelijk toezicht, goed geïnformeerde gebruikers en overheden die hun verantwoordelijkheid niet uit de weg gaan.

Encycliek eist verantwoordelijkheid in alle fasen van AI-ontwikkeling

Verantwoordelijkheden en toezicht moeten gelden in elke fase van het creëren en inzetten van AI, aldus het document. Politieke leiders moeten actief ingrijpen om het snelle tempo van verandering te matigen.

Ook de milieukosten komen aan bod. Grootschalige AI-systemen verbruiken enorme hoeveelheden energie en water, wat extra druk legt op de natuur, merkt de paus op.

Co-founder van Anthropic staat naast paus bij Vaticaan

Christopher Olah, co-founder van Anthropic, stond naast de paus tijdens de presentatie. Olah riep op tot bredere deelname van geloofsgemeenschappen, het maatschappelijk middenveld, wetenschappers en overheden om de richting van de technologie te bepalen.

AI moet worden ontwapend van competitieve mindset

Veel waarnemers zien de encycliek als een directe reactie op de prioriteiten van Silicon Valley. De paus betoogt dat AI ontwapend moet worden, zodat het geen militaire, economische of cognitieve rivaliteit meer aanwakkert.

Technische capaciteit alleen geeft niet het recht om te heersen, stelt hij. Het doel is niet om hulpmiddelen af te wijzen, maar om te voorkomen dat ze mensen beheersen.

De mensheid in haar volle waardigheid en kwetsbaarheid moet centraal blijven. Technologie kan lijden verlichten en kansen creëren, maar mag nooit de menselijke capaciteit tot verbinding en liefde overrulen.

Twee ontwikkelpaden liggen voor

De werkelijke beslissing, besluit de paus, ligt tussen twee toekomsten. Het ene pad bevordert vooruitgang die individuen en gemeenschappen ten goede komt. Het andere onderwerpt mensen aan een mentaliteit die draait om macht.