Rekenkamer: risicobeheersing bij gebruik algoritmes bij gemeente moet beter

In dit artikel:

De Rekenkamer Utrecht concludeert na recent onderzoek dat de gemeente Utrecht wel streeft naar verantwoord gebruik van algoritmes, maar de praktijk daarachter onvoldoende is geborgd. De rekenkamer beoordeelde onder meer vijf concrete algoritmes en constateert dat medewerkers interne richtlijnen niet consequent volgen, waardoor niet altijd duidelijk is of risico’s—zoals discriminatie en privacyschendingen—voldoende worden beperkt.

Utrecht heeft een openbaar algoritmeregister met 45 impactvolle toepassingen, een relatief vooruitstrevende stap vergeleken met andere gemeenten. De informatie in dat register is echter onvolledig en vaak te algemeen; bovendien ontbreekt heldere toelichting op de criteria waarmee een algoritme als “impactvol” wordt aangemerkt. De rekenkamer adviseert om de criteria openbaar te maken en de registraties actueler en concreter te maken.

Op organisatorisch niveau wijken afdelingen sterk van elkaar af in risicobeheersing. Regels zoals dat een mens altijd het besluit moet nemen, worden niet altijd nageleefd (er is ten minste één geval zonder menselijke tussenkomst gevonden). Ethische toetsingen vinden plaats, maar opvolging van verbeterpunten en monitoring van maatregelen ontbreekt vaak. Medewerkers krijgen onvoldoende training in het beheersen van algoritmerisico’s.

Ten slotte ontbreken concrete doelen en sturingsindicatoren voor algoritmegebruik, waardoor verantwoording richting directie, college en gemeenteraad beperkt is. De Rekenkamer adviseert duidelijkere criteria, betere opvolging en monitoring, eenduidiger risicobeheer en betere informatievoorziening aan de raad.