De machine voorbij - over de gevaren van AI

In dit artikel:

Bill Gates waarschuwde in een artikel dat kunstmatige intelligentie drie grote risico’s meebrengt: banenverlies in onder meer verkoop, klantenservice, softwareontwikkeling en data-analyse; kwaadaardig gebruik dat de samenleving kan ontwrichten; en mogelijke schade aan de ontwikkeling van kinderen en menselijke relaties. Door de snelle technologische vooruitgang vreest hij bovendien dat mensen de controle over AI en daarmee over belangrijke maatschappelijke processen verliezen.

De auteur draait Gates’ vraag om en onderzoekt wat AI ons leert over de mens. Daarbij verwijst hij naar de Nederlandse filosoof Maarten Coolen, die in zijn boek *De machine voorbij* beschrijft hoe mensen hun vermogens steeds verder in techniek onderbrengen. Eerst versterken werktuigen lichamelijke kracht, daarna nemen machines fysieke arbeid over en vervolgens voeren geautomatiseerde systemen steeds complexere taken uit. De ontwikkeling van AI lijkt de volgende stap: ook denkwerk wordt aan machines uitbesteed.

Toch betekent vergelijkbaar gedrag volgens Coolen niet dat een machine ook menselijk begrijpt of denkt. Een computer kan bijvoorbeeld een kruiswoordraadsel oplossen of overtuigende teksten produceren, maar kan zich niet op dezelfde manier tot zijn eigen denken en handelen verhouden. De auteur illustreert dit met John Searles gedachte-experiment van de Chinese kamer: iemand kan volgens regels perfecte Chinese antwoorden geven zonder Chinees te begrijpen.

Daaruit volgt dat AI menselijk gedrag kan nabootsen zonder zelfbewustzijn of werkelijk begrip. Het vermogen van mensen om op zichzelf en hun handelen te reflecteren, ziet de auteur daarom als een belangrijke bescherming tegen de risico’s van AI. Uiteindelijk blijft het de mens die bepaalt hoe ver de technologie wordt ingezet en haar desnoods kan uitschakelen.