Ai-scamoproepen en deepfakes verspreiden zich razendsnel nu technologie drempels voor oplichters verlaagt

YouTubers als Kitboga en Jim Browning ontmaskeren stemklonen en videoscams terwijl experts waarschuwen voor toenemend volume en toegankelijkheid

Ai-gedreven oplichting is overtuigender geworden en moeilijker te herkennen, waardoor mensen die minder technisch onderlegd zijn extra kwetsbaar zijn voor telefoon- en videofraude.

YouTubers draaien de rollen om bij ai-stemoplichters

Nadat een familielid een telefoontje kreeg van een geautomatiseerde stem die zich voordeed als medewerker van Royal Mail, begon een schrijver de trend te volgen. Het onderzoek leidde tot veel aanbevelingen van video’s waarin oplichters worden afgetroefd. Kitboga, een YouTube-maker die bekendstaat om het confronteren van fraudeurs, ontdekte dat basis prompt-injectie ai-bellers eindeloos kan laten herhalen: “kooga-ooga-amen, Albuquerque, New Mexico.” Dezelfde fout treedt op wanneer ai-stemmen bepaalde zinnen proberen, inclusief verwijzingen naar professioneel worstelen.

Deepfake-videoscams worden publiekelijk ontmaskerd

Jim Browning richt zich op een geavanceerdere dreiging: deepfake-videogesprekken die worden gebruikt bij ingewikkelde oplichtingspraktijken. In de fragmenten worstelen deepfake-personages met simpele handelingen zoals drie vingers voor hun gezicht houden, waarbij ze vaak zinnen herhalen als “aw c’mon, man, that’s too much” terwijl het synthetische gezicht onnatuurlijk stil of vervormd lijkt.

Experts bevestigen dat scams breed toegankelijk zijn geworden

Gegevens van het AI Incident Database-project tonen aan dat deze incidenten vaak voorkomen. Simon Mylius, onderzoeker aan MIT en projectmedewerker, vertelde aan The Guardian dat generatieve tools vrijwel iedereen in staat stellen overtuigende nepversies te maken. “De mogelijkheden hebben ineens een niveau bereikt waarbij nepcontent door vrijwel iedereen kan worden gemaakt,” zei hij. “Het is zo toegankelijk geworden dat er eigenlijk geen drempel meer is.”

Bobby Ford, chief strategy and experience officer bij Doppel, onderschreef de zorgen in opmerkingen aan CNET. Hij merkte op dat de tijd en middelen die vroeger nodig waren om deepfakes te maken sterk zijn afgenomen. “Het kost niet meer dezelfde hoeveelheid tijd — het gaat nu veel sneller, waardoor het volume toeneemt,” aldus Ford.

Praktische stappen om blootstelling te beperken

Mensen die al bekend zijn met de technologie kunnen veel nepversies herkennen. Een effectievere aanpak is het delen van geverifieerde voorbeelden met familieleden die deze ontwikkelingen mogelijk minder volgen. Groepschats, regelmatige telefoontjes met oudere familieleden en gesprekken met mensen die ongeverifieerde online content delen, kunnen helpen om bewustzijn te verspreiden voordat oplichters hen bereiken.

Tags bij dit artikel