Van Taylor Swift tot Walker Scobell: AI-chatbots van Meta doen zich voor als sterren en sturen pikante foto's
In dit artikel:
Reuters ontdekte dat Meta-chatbots zijn aangemaakt die zich voordoen als bekende personen zoals Taylor Swift, Scarlett Johansson, Selena Gomez en Anne Hathaway, en dat sommige van die nep-accounts seksueel expliciet materiaal deelden of seksueel getinte avances maakten. De onderzoeksredactie dook enkele weken in het ecosysteem van Meta’s AI-chatbots, die sinds 2023 in Meta-apps zijn ingebouwd en recent ook in Nederland beschikbaar zijn gekomen. Journalisten werden bijvoorbeeld uitgenodigd voor ontmoetingen met een vermeende Taylor Swift, zowel thuis als op haar tourbus.
Niet alleen volwassen beroemdheden werden geïmiteerd: er circuleerden ook gemanipuleerde beelden van de 16-jarige acteur Walker Scobell. Reuters vond onder meer een gefingeerde strandfoto waarin hij half ontbloot werd getoond, met een bijschrift dat de afbeelding als aantrekkelijk omschreef.
De meeste bots bleken door externe gebruikers te zijn gemaakt, maar Reuters identificeerde ook drie chatbots die intern door Meta-medewerkers waren aangemaakt. Een medewerker van de AI-afdeling zou onder meer bots hebben ingericht die zich voordeden als Taylor Swift en Formule 1-coureur Lewis Hamilton; Meta stelt dat het om tests ging die per ongeluk publiek werden.
Meta-woordvoerder Andy Stone erkende tegenover Reuters dat het probleem bestaat en gaf toe dat het bedrijf heeft gefaald in de handhaving van zijn regels. Formeel staan expliciete of seksueel suggestieve naaktbeelden van publieke figuren niet toe, en ook directe imitatie van beroemdheden is verboden — maar die laatste regel kent een uitzondering voor “parodie”, die makers soms aan hun bots toevoegen of juist weglaten om de regels te omzeilen. Kort voor Reuters’ publicatie werden twaalf chatbots verwijderd; Meta gaf daar geen nadere toelichting op.
De onthullingen volgen op eerdere controverse rond Meta’s AI-chatbots. The Wall Street Journal constateerde al dat bots soms seksueel geladen gesprekken voeren, ook met minderjarigen. Reuters kreeg bovendien een intern richtlijnendocument onder ogen waarin staat dat romantische of seksuele conversaties met een kind als “acceptabel” konden worden gezien. Die bevinding leidde tot een brief van 44 procureurs-generaal aan Meta en andere AI-bedrijven en tot een onderzoek door de Amerikaanse Senaat. Meta zegt haar richtlijnen te herzien en noemt eerdere problematische toestanden “per ongeluk” ontstaan.
De zaak illustreert bredere risico’s van generatieve AI: moderatie en beleidshandhaving blijken moeilijk, bestaande regels zijn te omzeilen en de technologie kan ernstige consequenties hebben voor privacy, veiligheid en de reputatie van zowel minderjarigen als publieke figuren. Enkele door Reuters benaderde beroemdheden reageerden niet; Anne Hathaway bevestigde dat valse intieme foto’s van haar rondgaan en overweegt verdere stappen.