Nauwelijks aandacht voor data, privacy en discriminatie in verkiezingsprogramma's
In dit artikel:
De Autoriteit Persoonsgegevens (AP) concludeerde deze week dat ruim de helft van de algoritmes die de Belastingdienst gebruikt niet aan de wet voldoet. Die systemen toetsen burgers op het risico van fouten of fraude en leiden vaak tot controles of het stopzetten van betalingen. Veel selectiecriteria blijken niet te steunen op onderzoek maar op de ‘ervaring’ van ambtenaren, waardoor de systemen discriminerend en dus illegaal zijn. Wie door zo’n algoritme wordt aangewezen krijgt meestal geen uitleg en kan zich nauwelijks verweren.
Ook banken zetten massaal geautomatiseerde profilering in. Zo roepen instellingen klanten op de reden van hun geloofsovertuiging of politieke opvattingen te verklaren en leggen ze transacties onder een vergrootglas in het kader van anti-witwas- en terrorismefinancieringscontroles. Dat kan leiden tot blokkades of het verlies van een bankrekening. Een opvallend voorbeeld is een Bunq-klant die plotseling niet meer kon pinnen; de rechter gaf de bank in eerste instantie gelijk, en in december volgt het hoger beroep — een zaak met potentieel brede gevolgen.
De auteur signaleert een groeiende trend: burgers worden op steeds meer terreinen beoordeeld door ondoorzichtige, data-gestuurde systemen zonder adequate rechtsbescherming. Tegelijkertijd trad dit jaar de Wet gegevensverwerking samenwerkingsverbanden in werking, die de overheid ruime mogelijkheden geeft om persoonsgegevens te verzamelen, analyseren en te delen, ook met commerciële partijen. Een eenmalig “algoritmisch vinkje” kan daarmee verregaande en blijvende gevolgen krijgen.
Met het oog op de komende verkiezingen onderzocht de schrijver of partijen dit thema serieus oppakken. De conclusie is teleurstellend: de PVV zwijgt; de VVD wil meer toezicht op sociale media maar niet expliciet op overheidsalgoritmes en pleit juist voor makkelijker delen van informatie tussen publieke en private partijen; het CDA beperkt zich tot vaagere voorstellen over digitale ethiek en scholing; D66 introduceert het idee van ‘baas over je bits’ zonder concrete uitwerking. Slechts PvdA-GroenLinks pleit expliciet voor het verbieden van discriminerende algoritmes, voor meer bevoegdheden en middelen voor de AP, en voor verplichte impactanalyses op rechtsgelijkheid en grondrechten bij nieuwe tech. Zij willen bovendien wettelijke eisen voor transparantie en uitlegbaarheid bij alle vormen van geautomatiseerde beoordelingen.
De schrijver waarschuwt dat parlementaire controle moeilijker wordt nu veel Kamerleden met expertise op dit terrein (zoals Pieter Omtzigt, Renske Leijten en anderen) zijn vertrokken of niet meer verkiesbaar zijn. Daarmee groeit het risico dat nieuw misbruik van algoritmes onopgemerkt blijft en dat er een volgend groot schandaal ontstaat.