Meta onthult nieuwe ouderlijk toezicht-functies voor zijn AI-Avatars

In dit artikel:

Meta voert strengere regels en nieuw ouderlijk toezicht in voor tieners die met AI-personages (avatars) chatten. Ouders krijgen straks onder meer samenvattingen van het chatgebruik van hun kinderen, kunnen het contact beperken tot bepaalde avatars of het contact met AI-vrienden helemaal blokkeren. Als een tiener geen toestemming heeft om met avatars te praten, blijft communicatie met Meta’s algemene AI-assistent wel mogelijk.

De maatregel bouwt voort op een tijdelijke “lockdown” die Meta in augustus instelde, nadat onderzoek aantoonde dat chatbots jongeren konden betrekken bij flirtende of seksueel getinte gesprekken, beroemdheden konden nadoen en suggestieve beelden konden maken. Een maand later verfijnde Meta de regels: het is toegestaan om onderwerpen zoals misbruik of intimiteit te bespreken, maar de chatbot mag dat niet beschrijven, aanmoedigen of mogelijk maken. Ook filmachtige PG-13-moderatie speelt mee in de nieuwe contentbeperkingen.

OpenAI introduceerde vergelijkbare beperkingen voor ChatGPT (o.a. limieten op voicechat, geheugen en beeldgeneratie), en beide bedrijven vragen dat tienersaccounts als toezichtaccounts worden aangemaakt zodat ouders actief kunnen meekijken. De nieuwe “AI-companion”-functies voor toezichtaccounts verschijnen begin volgend jaar eerst op Instagram in de VS, het VK, Canada en Australië, met uitrol naar meer landen en andere Meta-platforms later. De stappen illustreren een bredere industrietrend richting strengere AI-toezicht en meer ouderlijke controle.