Reclassering pauzeert algoritme dat recidiverisico te laag inschat en mogelijk discrimineert

In dit artikel:

De Inspectie Justitie en Veiligheid constateert dat reclasseringsorganisaties in Nederland een algoritme gebruiken dat de recidivekans van verdachten en veroordeelden vaak onderschat en mogelijk discriminerend is. Omdat die onderschatting en het risico op bias gevolgen kan hebben voor toezicht, begeleidingsintensiteit en beslissingen over vrijheidsbeperking, heeft de reclassering het systeem voorlopig stilgelegd. De kwestie zet vraagtekens bij datakwaliteit, modelvalidatie en transparantie van geautomatiseerde risicobeoordelingen: vertekende of onvolledige data kunnen bestaande ongelijkheden versterken. De zaak benadrukt de spanning tussen efficiëntie door automatisering en het waarborgen van rechtsgelijkheid; voordat het algoritme weer wordt ingezet, moeten aanpassingen, nader onderzoek en toezicht zorgen voor betrouwbaarheid en niet-discriminatie.