Advocaten krijgen waarschuwing en moeten op cursus na verkeerd gebruik AI
In dit artikel:
Drie advocaten hebben tot nu toe een waarschuwing gekregen vanwege verkeerd gebruik van AI‑hulpmiddelen zoals ChatGPT; twee van hen moesten bovendien een verplichte AI‑cursus volgen, zegt Wouter Timmermans, toezichthouder op de advocatuur in Gelderland. De fouten betreffen vooral stukken waarin door AI gegenereerde verwijzingen naar eerdere rechtspraak werden opgenomen die niet bestonden of niet relevant waren voor de zaak.
Rechters in Arnhem, Rotterdam en Groningen wezen onlangs op dit soort verdachte verwijzingen, waarna regionale toezichthouders onderzoek deden. Timmermans benadrukt dat AI‑programma’s wel nuttig kunnen zijn voor samenvattingen of het vinden van uitspraken, maar dat advocaten de output altijd moeten controleren: AI kan overtuigend klinken maar onjuiste informatie produceren. Meer dan drie onderzoeken naar verkeerd AI‑gebruik zijn inmiddels gestart; enkele lopende zaken blijven onderzocht.
Het probleem beperkt zich niet tot advocaten. In december oordeelde de rechtbank in Den Bosch tegen een man die zonder advocaat, maar met ChatGPT als "adviseur", een geschil over de verkoop van een appartement in Andorra aanspande. Volgens de tegenpartij en de rechter voerde dat tot verwijzingen naar juridisch irrelevant of niet-bestaand materiaal, wat extra werk en kosten veroorzaakte. Advocaat Erik Braun noemde de stukken in de zitting "juridisch broddelwerk"; de rechter vond dat de man misbruik maakte van het recht door onzorgvuldig met AI‑producties te werk te gaan.
Hoogleraar Lodewijk Smeehuijzen wijst erop dat advocaten niet zomaar bronnen mogen aanvoeren die niet controleerbaar zijn. De casussen illustreren de risico’s van zogenaamde “hallucinaties” van AI: plausibel lijkende, maar feitelijk foutieve of gefabriceerde feiten en jurisprudentie. Conclusie: AI kan procesondersteunend zijn, maar beroepsplicht en zorgvuldigheid vereisen verifiëring om reputatieschade, onnodige kosten en mogelijke disciplinaire maatregelen te voorkomen.