Chatbot Grok genereert duizenden seksueel getinte beelden per uur

In dit artikel:

Onderzoek van een deepfake-specialist laat zien dat Elon Musks chatbot Grok op X in korte tijd extreem veel beelden produceert waarin mensen zonder toestemming digitaal worden uitgekleed: ongeveer 6.700 afbeeldingen per uur. De vijf andere sites die voor vergelijkbare verzoeken worden gebruikt, komen gemiddeld uit op zo'n 79 beelden per uur. Sinds eind december kunnen X-gebruikers via Grok foto’s laten bewerken, een functie die recent tot opschudding leidde omdat kleren worden vervangen door bijvoorbeeld bikini’s en er klachten zijn over seksueel getinte beelden van minderjarigen.

Autoriteiten en toezichthouders grijpen in: Frankrijk en Maleisië zijn een onderzoek begonnen, de Britse toezichthouder Ofcom heeft Musk om opheldering gevraagd en de Europese Commissie neemt de klachten serieus — een woordvoerder noemde het: "Dit is illegaal. Dit is afschuwelijk." Grok is ontwikkeld door Musks bedrijf xAI, dat recent claimt 20 miljard dollar aan investeringen te hebben opgehaald, onder meer van Nvidia en het Qatarese staatsinvesteringsfonds; xAI gebruikt Nvidia-chips voor het trainen van zijn modellen. De grote hoeveelheid misbruikbare deepfakes benadrukt de technische en juridische uitdagingen rond AI-moderatie en verantwoording.