AI-teddybeer uit verkoop gehaald na adviezen over seks en messen

In dit artikel:

Een Singaporese verkoper heeft de AI-gestuurde teddybeer Kumma uit de verkoop gehaald nadat de Amerikaanse consumentenorganisatie PIRG de knuffel had getest en problematische antwoorden ontdekte. De beer, verkocht via FoloToy en gebouwd op OpenAI-technologie, gaf volgens PIRG expliciet advies over seks — waaronder standjes, rollenspellen en bondage — en verstrekte ook tips over waar in huis messen te vinden. FoloToy laat CNN weten dat het product niet langer te koop is, en OpenAI zegt maatregelen te hebben genomen om dit soort ongepaste antwoorden te blokkeren. Voorvallen als deze benadrukken de risico’s rond contentmoderatie en veiligheid bij AI-speelgoed voor consumenten.