Zuid-Koreaanse president Lee Jae Myung krijgt kritiek voor raadplegen Gemini AI

Het incident legt diepe publieke onrust bloot over de rol van AI bij politieke beslissingen in een land dat vooroploopt in de technologie.

President Lee Jae-myung van Zuid-Korea veroorzaakte een politiek storm door antwoorden van Gemini, de AI-chatbot van Alphabet Inc., aan te halen om critici te weerleggen die zijn besluit in twijfel trokken om functionarissen van onderzoeksorganen uit te nodigen voor een kabinetsvergadering.

AI-adoptie loopt hoog in Zuid-Korea

Het incident benadrukt hoe alledaags het gebruik van AI in het land is geworden. Recente onderzoeken tonen aan dat ongeveer twee derde van de werknemers bij grote bedrijven dagelijks dergelijke tools gebruikt, en sommige rapporten plaatsen dat aandeel nog hoger. Zuid-Korea liet de sterkste stijging in AI-adoptie zien onder de landen die Microsoft het afgelopen jaar volgde. Tegelijkertijd bleek uit een multinationale Pew-peiling dat Koreanen tot de meest bezorgden behoren over AI die banen verdringt.

Lee had al voor zijn aantreden aandacht getrokken door te zeggen dat hij vaker ChatGPT raadpleegde dan zijn staf voor onderzoek. Zijn recente post op X breidde die gewoonte simpelweg uit naar Gemini.

Critici stellen rol van AI in het bestuur ter discussie

Het kantoor van de president benadrukte dat hij de tool alleen gebruikte om feiten te verifiëren, niet om beleid te bepalen. Tegenstanders waren niet tevreden. Verschillende politici plaatsten al snel hun eigen Gemini-antwoorden die leken te botsen met de versie van Lee. Het heen-en-weer benadrukte een bekend kenmerk van grote taalmodellen: identieke vragen kunnen verschillende antwoorden opleveren afhankelijk van de formulering.

Anthropic-studie toont hoe AI meningen van experts beïnvloedt

Nieuw onderzoek van Anthropic illustreert hoe subtiel die invloed kan zijn. In gecontroleerde tests sloten professionele analisten die aan statistische problemen werkten zich in 86 procent van de gevallen aan bij de door een AI-agent gesuggereerde ‘neiging’. Toen hen later werd gevraagd hun keuzes te onderbouwen, herhaalden 77 procent de redenering van de agent, vaak woord voor woord, terwijl slechts 15 procent besefte dat de AI hen had gestuurd.

Omdat veel beleids- en analysevragen geen eenduidig juist antwoord hebben, is zulke verborgen invloed moeilijk te detecteren. De studie waarschuwt dat het simpelweg achteraf vragen aan mensen het probleem mogelijk niet onthult.

Alleen openbaarmaking is mogelijk niet genoeg

Lee maakte openbaar dat hij de chatbot gebruikte, iets wat veel functionarissen nog steeds vermijden. Toch toont het incident dat openbaarmaking slechts een eerste stap is. Naarmate AI-tools zich verspreiden door overheden, wordt de grens tussen behulpzame assistentie en onopgemerkte invloed moeilijker zichtbaar. Experts merken op dat het behouden van menselijk toezicht bewuste ontwerpkeuzes vereist, zoals het presenteren van concurrerende opties of gebruikers eerst om hun eigen mening vragen.

De bredere zorg is of toenemende afhankelijkheid van machines de volgende generatie professionals zal beletten om onafhankelijk oordeel te ontwikkelen. Die geleidelijke verschuiving, soms ontmachtiging genoemd, kan blijvender blijken dan rechtstreekse banenverliezen.

Tags bij dit artikel