Techbedrijf Anthropic vraagt christelijke ethici om raad; „Laat AI niet aan techneuten over"

In dit artikel:

AI-bedrijf Anthropic heeft vorige maand vijftien Amerikaanse katholieke en protestantse ethici, geestelijken en academici twee dagen uitgenodigd op het hoofdkantoor in San Francisco om te overleggen hoe hun chatbot Claude op morele en geestelijke vragen moet reageren. De gesprekken gingen vooral over hoe morele vorming werkt en hoe een taalmodel kan worden getraind om zich “goed” te gedragen bij gevoelige thema’s zoals rouw, relaties en depressie.

Anthropic zoekt daarmee religieus geïnspireerd ethisch advies omdat gebruikers Claude regelmatig raadplegen bij existentiële en psychische problemen — een fenomeen dat niet beperkt is tot de VS; in Nederland zou ongeveer tien procent van jongeren bij mentale klachten een chatbot raadplegen. Tegelijk rijzen zorgen: er lopen in de VS rechtszaken na zelfdodingen waarvan gesprekken met chatbots een rol speelden.

Sommigen zien Anthropics stap als oprecht: theologen en ethici zoals Jack Esselink vinden het noodzakelijk dat niet alleen techneuten de normen voor AI bepalen. Critici houden het echter voor een PR-actie van een commercieel bedrijf dat ook militaire klanten heeft en winst nastreeft. Anthropic benadrukt intern een eigen “grondwet” voor Claude, met regels tegen misleiding die schade kan veroorzaken, en zegt al langer aandacht te hebben voor ethiek (een van de redenen voor de afsplitsing van OpenAI in 2021).

RUG-hoogleraar Niels Taatgen noemt de bijeenkomst een stap vooruit maar waarschuwt dat het onduidelijk is welke moraal Claude moet volgen en dat het praktisch lastig is om een chatbot consequent te laten aansluiten bij iemands persoonlijke levensovertuiging. Bovendien zijn taalmodellen niet hetzelfde als menselijke hulpverleners; bij ernstige problemen blijft het advies te praten met een mens.