The Guardian: miljoenen mensen maken en delen AI-naaktfoto's via Telegram

In dit artikel:

Een Brits nieuwsbericht onthult dat ongeveer 150 grote, versleutelde groepschats op Telegram fungeren als marktplaatsen voor AI-gegenereerde deepfake-pornografie. Deze kanalen, populair bij gebruikers uit landen van het Verenigd Koninkrijk tot Brazilië, China, Nigeria, Rusland en India, bieden betaalde diensten aan waarbij iemand een foto van een vrouw uploadt en een AI daar een video van maakt waarin die vrouw seksuele handelingen verricht. Andere kanalen verspreiden feeds met vermeende naaktbeelden van beroemdheden, influencers en gewone vrouwen die met AI zijn geconstrueerd, en delen bovendien tips over tools om zulke deepfakes te maken.

De berichtgeving wijst erop dat dit fenomeen bijdraagt aan een schaalvergroting van geavanceerde AI-tools en het online misbruik van vrouwen. Als voorbeeld wordt een Russisch kanaal genoemd dat een ‘uitkleed-bot’ promoot die grenzen negeert. Tegelijk kreeg ook Elon Musks AI-chatbot Grok kritiek omdat gebruikers die chatbot konden gebruiken om digitale ontdooiing van vrouwen te genereren; na onderzoeken door verschillende landen, waaronder Nederland, werd Grok aangepast om zulke verzoeken in rechtsgebieden waar het verboden is te blokkeren.

Telegram reageert dat deepfake-pornografie en de bijbehorende hulpmiddelen expliciet verboden zijn op het platform en dat dergelijke inhoud wordt verwijderd zodra deze wordt ontdekt; het bedrijf meldt dat in 2025 al ruim negenhonderdduizend aanstootgevende berichten zijn verwijderd. Non-consensuele deepfakes blijven echter een groeiend probleem vanwege de technische toegankelijkheid en de ernstige schade die ze slachtoffers kunnen toebrengen.