Staatscommissie: Stop met datagedreven profilering van burgers voor de bestrijding van fraude

In dit artikel:

De Staatscommissie tegen Discriminatie en Racisme roept de Nederlandse overheid op om voorlopig te stoppen met datagedreven profilering bij de bestrijding van fraude en criminaliteit. In een recent rapport waarschuwt de commissie dat overheidsorganisaties steeds grotere en aan elkaar gekoppelde datasets gebruiken om groepen burgers te selecteren die “risico” zouden vormen, wat in de praktijk leidt tot (het risico op) discriminatie en aantasting van rechtsstatelijke en democratische principes.

De commissie wijst op concrete voorbeelden uit de afgelopen jaren: de toeslagenaffaire waarbij (dubbele) nationaliteit een rol speelde, studenten met een migratieachtergrond die onevenredig vaak werden gecontroleerd, en signalen dat ook politie en marechaussee steeds meer op data sturen. Toezichthouders zoals de Autoriteit Persoonsgegevens en de Wetenschappelijke Adviesraad Politie hebben al vaker onrechtmatige of discriminerende dataverwerking en de moeilijkheid van toezicht op algoritmes aangekaart. Het Gerechtshof Den Haag bepaalde in 2023 dat de Marechaussee niet mag controleren op huidskleur; de commissie betreurt dat de regering die uitspraak niet breed liet doorwerken.

Belangrijke knelpunten volgens het rapport: burgers weten vaak niet dat zij worden geprofileerd, welke criteria worden gehanteerd of hoe beslissingen tot stand komen; er ontbreekt transparantie, effectevaluatie en afdoende waarborgen tegen discriminatie. Omdat stoppen ingrijpend is voor uitvoeringsorganisaties, adviseert de commissie een tijdelijk moratorium totdat effectieve maatregelen en garanties zijn ingevoerd, en stelt ze minder riskante alternatieven voor zoals willekeurige steekproeven. Zonder zulke stappen bestaat volgens de commissie een groot risico op blijvende maatschappelijke schade en hoge herstelkosten.