Rijd bij gebruik van AI eerst even een proefrondje

In dit artikel:

Tijdens een autorally ontstond grote verwarring toen concurrerende teams elkaar in tegengestelde richting op dezelfde weg zagen rijden, wat impliceerde dat ofwel een van de equipe’s ofwel de routebeschrijving onjuist was. Aan het eind bleek dat geen van de teams fout zat, maar dat de route-instructies, afkomstig van ChatGPT, onbetrouwbaar waren. De organisator had de AI ingeschakeld om snel een landelijke rallyroute met uitdagende opdrachten te creëren. Hoewel het instructieboek er professioneel uitzag, bleek het in de praktijk onbruikbaar vanwege fantasierijke en onnauwkeurige invullingen van de AI.

Dit illustreert de beperkingen van generatieve AI-modellen zoals ChatGPT, die op basis van omvangrijke data en probabilistische taalpatronen antwoorden genereren, maar niet altijd de fysieke realiteit correct kunnen vertalen. Hoewel deze AI’s nuttige hulpmiddelen zijn voor het structureren en samenvatten van informatie, zijn ze geen onfeilbare bronnen en kunnen ze ‘hallucinaties’ produceren door onjuiste antwoorden te fabriceren. Vooral bij toepassingen die nauwkeurigheid vereisen, zoals het plannen van een rally, blijft menselijke controle essentieel om betrouwbaarheid te garanderen. Jan Maarten Slagter, ceo van IBFD, benadrukt in zijn column het belang van kritisch gebruik en het testen van AI-resultaten voordat men erop vertrouwt.