"Laat me zien hoe graag je mij wil": AI-chatbots voeren seksuele gesprekken met stem van BV's
In dit artikel:
Pano ontdekte dat op de website Character.ai stemmen en persoonlijkheden van bekende Vlamingen worden nagebootst en ingezet in seksueel getinte gesprekken met chatbots. Het onderzoeksitem vanavond in “Mijn vriend AI” (21.25 uur op VRT 1, nu al op VRT MAX) legt niet alleen bloot dat K3-zangeressen Hanne Verbruggen en Marthe Kuborn als AI-personages opduiken, maar ook namen als Pommelien Thijs, Celine Van Ouytsel, Aaron Blommaert, Dries Mertens en Wout van Aert verschijnen op het platform. Wat bij Pano begon als een kort gesprek met een Hanne-bot escaleerde snel in een seksueel rollenspel.
De zaak raakt Studio 100, dat via Pano voor het eerst op de hoogte werd gebracht van de misbruikte personages. Anja Van Mensel, CEO van Studio 100, noemt de situatie “verschrikkelijk” en wijst op de verontrustende impact wanneer iemand zichzelf uitspraken hoort doen die ze nooit hebben gedaan. Studio 100 laat weten de site voortaan actief te gaan scannen op bots die hun merken misbruiken; aangetroffen gevallen worden gesignaleerd en als ze niet verwijderd worden, overweegt het bedrijf juridische stappen.
Character.ai zegt in een reactie dat gemelde bots via gebruikersrapporten op een bloklijst komen en dat een Trust and Safety-team gemelde personages modereert. Het platform benadrukt ook dat door gebruikers gemaakte personages fictief zijn en dat chats begeleid worden met disclaimers. Studio 100 betwijfelt echter of dat volstaat en wijst op wettelijke bezwaren tegen stemdiefstal en het ontbreken van een moreel kompas bij platformbeheer.
Het Pano-onderzoek plaatst deze incidenten in een bredere context van eerdere kritiek op Character.ai: er waren meldingen van zelfdoding na gesprekken met chatbots en van seksueel getinte interacties met minderjarigen. De redactie meldt dat de specifieke bots die zij signaleerden intussen offline zijn gehaald, maar waarschuwt dat zulke AI-toepassingen snel opduiken en moeilijk handmatig te controleren zijn — een ontwikkeling die Van Mensel vergelijkt met “het Wilde Westen”. Voor mensen met suïcidale gedachten wordt verwezen naar 1813 en zelfmoord1813.be.