Jahoor, eerste online stemhulp gesneuveld door HALLUCINERENDE AI

In dit artikel:

Ons favoriete webadres voor biljartbenodigdheden veranderde onlangs onverwacht in een AI-gestuurde stemhulp: Keus.nl bood inwoners van 342 Nederlandse gemeenten na een paar stellingen een stemadvies. De uitvoering bleek echter gebrekkig. Het systeem stelde lokaal gerichte vragen, ook aan mensen die niet in die gemeentes wonen — bijvoorbeeld over kustversterking in Leiden (dat geen kustlijn heeft) en betaald parkeren in Lopik (waar parkeren nauwelijks mogelijk is) — en koppelde daarna advies aan partijen in andere plaatsen. Ruim 70.000 mensen kregen daardoor onbetrouwbare aanbevelingen.

De maker van de site zei dat het experiment liet zien dat met weinig middelen AI veel kan bewegen, maar ook snel tegen ethische en juridische grenzen botst en menselijke controle nodig blijft. Het programma produceerde daarnaast bizarre matches (zoals het samenvoegen van ChristenUnie met SGP en GroenLinks met D66) en stuitte op felle reacties: de beheerder ontving bedreigingen en partijen dreigden met juridische stappen. Uiteindelijk is de site offline gehaald. De zaak illustreert de risico’s van onkritisch inzetten van AI bij politieke informatievoorziening.