Waakhond AFM: 'Bank-app weet steeds beter wie je bent en kan je gedrag beïnvloeden'

In dit artikel:

De Autoriteit Financiële Markten (AFM) waarschuwt dat financiële bedrijven via apps en websites in het geheim hypergepersonaliseerde profielen van consumenten samenstellen, aangestuurd door kunstmatige intelligentie. Onderzoeker Annelot Wisman van de toezichthouder stelt dat financiële dienstverleners nog niet zo ver zijn als retailers en streamingdiensten, maar dat veel partijen deze technologie wél willen inzetten — met potentieel ernstige gevolgen voor consumenten. De AFM kondigt aanvullend onderzoek aan om financiële verliezen bij consumenten te voorkomen.

AI verzamelt en analyseert grote hoeveelheden gedrags- en voorkeurdata, waardoor een individueel beïnvloedingsprofiel ontstaat. Daarmee kan een systeem niet alleen inhoud aanpassen, maar ook toon, volgorde en presentatie optimaliseren om op het juiste moment een beslissing te sturen. De toezichthouder noemt voorbeelden zoals een op maat gemaakte pushmelding over een vermeende koersstijging van een cryptomunt nadat iemand eerdere kansen miste, gerichte aanbiedingen van duurdere producten op basis van betalingsbereidheid, of het subtiel naar voren brengen van een hogere roodstandlimiet op een kwetsbaar moment. Zulke ‘nudges’ kunnen leiden tot hogere leningen, onhoudbare hypotheken of meer schulden.

De AFM waarschuwt voor een “onzichtbare laag” tussen gebruiker en financiële keuze, en signaleert dat slimme AI-assistenten deze ongewenste beïnvloeding effectiever kunnen maken. Als antwoord stelt de toezichthouder eisen aan marktpartijen: commerciële belangen mogen niet zwaarder wegen dan het klantbelang. Financiële instellingen moeten personalisatie stoppen als die nadelig is voor de klant en apps moeten opties voor personalisatie uitschakelbaar maken. De AFM volgt de ontwikkeling kritisch en onderzoekt het omslagpunt waarop personalisatie verandert in manipulatie met financiële schade als gevolg.