Directeur reclassering over vernietigend rapport: 'Onvoldoende kennis algoritmes'
In dit artikel:
De Inspectie Justitie en Veiligheid concludeert dat de reclassering jarenlang onbetrouwbare algoritmes gebruikte om het recidiverisico te schatten. Reclassering Nederland krijgt dagelijks ongeveer 48.000 keer advies over het risico dat iemand opnieuw een misdrijf pleegt; die adviezen kunnen grote invloed hebben op vrijlating of detentie. Jessica Westerik, directeur van de reclassering, noemt het rapport “heel confronterend” en neemt verantwoordelijkheid; het gebruik van de modellen is voorlopig gepauzeerd en er is een programma gestart om de risicotaxatie-instrumenten grondig te toetsen.
De inspectie vond dat in circa één op de vijf gevallen de modellen fout zaten. Het meest problematische systeem, Oxrec, voldeed vrijwel nergens aan de normen: formules waren verwisseld, middelengebruik werd niet correct verwerkt, ernstige psychische problemen ontbraken en het model draaide op verouderde Zweedse data die niet zonder meer op Nederlandse omstandigheden toepasbaar zijn. Daardoor werd in de meeste geconstateerde fouten het recidiverisico te laag ingeschat, met het risico dat de samenleving onvoldoende werd beschermd; in andere gevallen kan een te hoge inschatting onterecht zwaardere maatregelen voor een verdachte betekenen.
Ook spelen zorgen over discriminatie: eerdere waarschuwingen (2020) wezen erop dat postcode en inkomen in Oxrec meegewogen werden, wat tot etnisch profileren kan leiden. Het College voor de Rechten van de Mens stelde later dat zulke kenmerken niet zonder stevige onderbouwing gebruikt mogen worden. Autoriteit Persoonsgegevens noemt het rapport pijnlijk en benadrukt dat burgers moeten kunnen vertrouwen op eerlijkheid en niet-discriminatie van algoritmes.
Westerik erkent dat de organisatie onvoldoende kennis had over ontwikkeling en onderhoud van algoritmes en belooft verbetering, terwijl ze benadrukt dat professioneel menselijk oordeel leidend blijft. Extra context: dit geval illustreert bredere problemen bij het overnemen van buitenlandse datasets, het ontbreken van adequate validatie en het gevaar van blind vertrouwen in computermodellen.