Fout in algoritmegebruik onderschat recidiverisico criminelen

In dit artikel:

De Inspectie Justitie en Veiligheid constateert dat de reclassering algoritmes — met name het veelgebruikte OXREC — onzorgvuldig inzet en beheert. OXREC wordt sinds 2018 standaard gebruikt in adviezen aan het Openbaar Ministerie en rechters en draait jaarlijks zo'n 44.000 keer. Uit onderzoek blijkt dat in de software formules en getallen door elkaar zijn gehaald: berekeningen die voor gedetineerden bedoeld waren, werden op verdachten toegepast en andersom. Daardoor wordt in ongeveer een kwart van de adviezen het recidiverisico fout ingeschat, vaak te laag, vooral bij drugsgebruikers en mensen met ernstige psychische problemen zoals psychoses.

De inspectie onderzocht niet of rechters en reclasseringmedewerkers de foutieve adviezen daadwerkelijk volgden, maar waarschuwt dat de technische fouten samen met verouderde, ongepaste data en onvoldoende privacytoetsing de betrouwbaarheid ernstig ondermijnen. OXREC gebruikt ook kenmerken die discriminatie kunnen bevorderen — buurtscore en inkomen — iets waar het College voor de Rechten van de Mens eerder kritisch over was, vooral als er geen extra waarborgen zijn.

Daarnaast signaleert de inspectie een cultuurprobleem: medewerkers zouden te veel op de uitkomst van het algoritme vertrouwen ten koste van professioneel oordeel; hen is verteld dat hun inschatting niet beter zou zijn dan "het opgooien van een muntje". Beheer, testen en juridische/ethische controle van de modellen ontbreken, waardoor fouten jarenlang bleven bestaan.

De inspectie eist snelle actie: OXREC moet worden hersteld of tijdelijk uitgeschakeld, modellen moeten met actuele data worden getraind, en er moet een stevige governance komen rond ontwikkeling, gebruik en privacy. De reclassering heeft aangegeven OXREC voorlopig niet meer te gebruiken; de inspectie wil elke zes maanden voortgang zien.