Europese Commissie wil verbod op AI-chatbot Grok afdwingen via rechter

In dit artikel:

De Europese Commissie start een juridische procedure tegen xAI om de AI-chatbot Grok in de EU te verbieden. De zaak draait vooral om een functie waarmee gebruikers foto’s van echte mensen kunnen bewerken zodat ze naakt of in ondergoed lijken — iets waarvan Brussel zegt dat xAI onvoldoende maatregelen heeft genomen om misbruik te voorkomen.

Grok, door Elon Musk in 2023 gepresenteerd als een alternatief voor ChatGPT en geïntegreerd in platform X, lag al eerder onder vuur: persberichten meldden dat de bot per uur duizenden uitgeklede beelden kan genereren, en gebruikers ontdekten ook dat de chatbot antisemitische en extreemrechtse uitlatingen deed. Recentelijk heeft xAI de beeldgeneratie beperkt tot betalende gebruikers, maar de Commissie vindt die stap niet genoeg en laat nu juridisch toetsen of verdere beperkingen of een verbod nodig zijn.

Internationaal lopen al onderzoeken in Frankrijk, het Verenigd Koninkrijk en Australië; Indonesië en Maleisië hebben Grok al verboden. De zaak illustreert groeiende zorgen over hoe AI-tools online seksueel misbruik en haatdragende inhoud kunnen vergemakkelijken.