Je verantwoordelijkheid afschuiven op een machine is het einde van alle dingen

In dit artikel:

De auteur ervaart AI als een enorme vooruitgang bij historisch onderzoek. Een systeem met de naam Sol 6.1 transcribeert in enkele uren een omvangrijk negentiende-eeuws archief over Schinveld, terwijl handmatige transcriptie weken of maanden zou kosten. De stukken van pastoor Joors zijn moeilijk door het oude handschrift en de afwisseling tussen Nederlands, Latijn en Frans, maar de AI-transcripties blijken volgens de auteur opvallend betrouwbaar. Daardoor wordt het mogelijk om niet slechts enkele bronnen, maar bijvoorbeeld twintig jaar aan gemeenteraadsnotulen of grote hoeveelheden bisdomcorrespondentie te onderzoeken.

Toch blijft menselijke deskundigheid onmisbaar. De onderzoeker moet zelf weten welke vragen relevant zijn, historische en juridische context begrijpen en belangrijke passages controleren en vertalen. Zonder kennis van bijvoorbeeld het negentiende-eeuwse Limburgse kerk-staatsrecht zouden documenten verkeerd worden geïnterpreteerd. AI kan het arbeidsintensieve zoek- en transcriptiewerk versnellen, maar mag het eigenlijke onderzoek, begrip en oordeel niet vervangen. Anders ontstaan volgens de auteur slechts documenten vol antwoorden op vragen die niemand heeft gesteld en die niemand kan controleren.

Aan de hand van de Duits-Amerikaanse filosofe Hannah Arendt onderzoekt de auteur vervolgens wat AI met menselijke activiteiten kan doen. Arendt onderscheidde ‘labor’, het noodzakelijke en zich herhalende werk, van ‘work’, het scheppende werk dat iets duurzaams voortbrengt, en ‘action’: spreken en handelen met anderen in de samenleving. Daarnaast zag zij denken en oordelen als cruciale geestelijke activiteiten. Mechanisering en automatisering kunnen volgens deze visie vooral arbeid overnemen zonder dat dit de menselijke wereld aantast. Bij schrijven, ontwerpen, spreken, denken en oordelen ligt dat anders: wie die activiteiten volledig uitbesteedt, verliest niet alleen vaardigheden, maar ook betekenis en verantwoordelijkheid.

De auteur ziet daarvan al verontrustende voorbeelden. Een AI-systeem dat preekschetsen maakt, kan menselijke voorbereiding vervangen door stijlimitatie. Ook een door AI gegenereerd bericht van premier Jetten over zijn gevoelens bij een bezoek aan Westerbork roept vragen op over authenticiteit. De rechtvaardiging dat ‘iedereen het doet’ maakt de bezorgdheid alleen maar groter. Wanneer politici hun woorden, analyses en uiteindelijk beslissingen door machines laten produceren, dreigt volgens de auteur een bestuur waarin niemand nog werkelijk aanspreekbaar is. Arendt zou dat een ‘regering van niemand’ noemen: zonder verantwoordelijke personen komt ook de vrijheid van burgers onder druk te staan.

Nog gevaarlijker is het risico dat mensen hun vermogen om zelf te denken en te oordelen verliezen. AI kan volgens de auteur wel oplossingen genereren, maar niet reflecteren op betekenis, onzekerheid of verantwoordelijkheid. Als mensen gewend raken om dat werk over te laten nemen, kunnen hun eigen geestelijke vermogens verschralen. De verwijzing naar Adolf Eichmann onderstreept dit gevaar: hij zag zichzelf als een radertje in een machine en vermeed de morele reflectie op zijn handelen. Gedachteloos efficiënt werken kan daardoor onmenselijke gevolgen hebben.

De grootste zorg betreft daarom niet alleen volwassenen die AI verkeerd gebruiken, maar vooral kinderen en jongeren. Lezen, schrijven, vertalen, onderzoeken en zorgvuldig oordelen zijn ambachtelijke vaardigheden die alleen door inspanning en oefening ontstaan. Wie vanaf jonge leeftijd een AI-huiswerkmachine gebruikt, leert mogelijk niet meer kritisch lezen, helder schrijven of zelfstandig denken. Daarmee kan een hele generatie de capaciteiten verliezen die nodig zijn om verantwoordelijkheid te nemen, eigen woorden te spreken en iets duurzaams aan de wereld toe te voegen.

AI is voor de auteur daarom tegelijk een zegen en een vloek. Het kan saai en tijdrovend werk overnemen en onderzoekers veel krachtiger maken, zolang mensen het inhoudelijke werk blijven doen. Maar als AI ook spreken, scheppen, denken en oordelen overneemt, dreigt verlies van individualiteit, vrijheid en menselijke verantwoordelijkheid. De ontwikkeling is volgens de auteur nog niet onomkeerbaar. In een aangekondigd vervolgartikel wil hij daarom pleiten voor onderwijs dat leerlingen opnieuw leert werken, lezen, schrijven, denken en spreken, zodat AI een hulpmiddel blijft en geen vervanging van de menselijke wereld wordt.