Chat politie offline na verkeerd antwoord over Palestijnen

In dit artikel:

De virtuele politieagent Wout is tijdelijk offline voor onderhoud nadat de chatbot bij een vraag over aangifte van discriminatie tegen Palestijnen een antwoord over antisemitisme gaf, meldt een politiewoordvoerder. De fout wordt aangeduid als een „oneffenheid”; volgens de woordvoerder leert Wout „net als zijn collega’s elke dag weer bij” en wordt het systeem regelmatig uitgebreid met nieuwe onderwerpen. Waarom precies die verkeerde koppeling ontstond is onduidelijk: de woordvoerder zegt onvoldoende van de techniek te weten. Omdat het onderwerp gevoelig is, is de chatbot bewust uit de lucht gehaald; wanneer hij weer beschikbaar is, is nog niet bekend. Wie hulp nodig heeft kan in de tussentijd bellen met 0900-8844.

Achtergrond: bij op AI gebaseerde assistenten kunnen training en trefwoordherkenning leiden tot onjuiste antwoorden, waardoor zorgvuldige bijsturing nodig blijft.