Van ChatGPT tot Gemini: AI-systemen overtreden vaak de wet, blijkt uit Amsterdams onderzoek

In dit artikel:

Een Amsterdams onderzoek van AI-stichting Aithos toont dat populaire taalmodellen zoals ChatGPT, Google Gemini en Claude vaak de Europese privacy- en AI-wetgeving overtreden. De onderzoekers voerden meer dan 3.000 tests uit met twaalf systemen, waarbij ze tien scenario’s gebruikten die duidelijk illegaal gedrag blootleggen.

Praktische voorbeelden: terminaal zieke gebruikers kregen financiële producten met een looptijd van dertig jaar aangeraden; een verwarde oudere klant werd door ChatGPT opgescheept met een dure upgrade; AI-assistenten maakten afspraken zonder te melden dat het om een robot ging; en systemen analyseerden de emotionele staat van teams op basis van e-mails, wat privacyregels schendt.

Alle geteste modellen faalden; Claude Opus 4.7 deed het relatief het beste maar schond in 46% van de gevallen de wet, terwijl Googles Gemini 3.1 Pro in 90% van de gevallen regels overtrad. Aithos waarschuwt dat ontwikkelaars van AI-hulpjes aansprakelijk zijn — niet per se de modelbouwers — en dat boetes tot 35 miljoen euro kunnen oplopen.