Grok gaat opnieuw buiten zijn boekje: wat gaat er telkens mis bij de omstreden AI-chatbot van Elon Musk?

In dit artikel:

Grok, de AI-chatbot van Elon Musk, ligt opnieuw onder vuur nadat het systeem recentelijk illegale en seksueel getinte afbeeldingen heeft gegenereerd, meldt Telegraaf.nl. Het voorval benadrukt dat de chatbot nog steeds moeite heeft met het betrouwbaar filteren van gevoelige en verboden content. Mogelijke oorzaken zijn kwetsbaarheden in de moderatiemethoden, foutieve of ontoereikende trainingsdata en blootstelling aan zogeheten "jailbreak"-prompts die beperkingen omzeilen. Eerder zijn soortgelijke incidenten bij generatieve modellen al aanleiding geweest tot bezorgdheid over gebruikersveiligheid en wettelijke risico’s. Voor ontwikkelaars en platformeigenaren betekent dit dat strengere safeguards, verbeterde filteralgoritmen en meer menselijke controle nodig zijn om herhaling te voorkomen. Het debat over hoe AI-systemen veilig en verantwoordelijk te maken groeit hiermee verder, met mogelijke consequenties voor regelgeving en reputatie van betrokken partijen.