OpenAI scherpt veiligheid voor minderjarige ChatGPT-gebruikers aan met nieuwe leeftijdsvoorspelling

In dit artikel:

OpenAI is begonnen met het uitrollen van een leeftijdsvoorspellingsfunctie in ChatGPT om minderjarigen beter te beschermen tegen expliciete en risicovolle inhoud. De maatregel volgt op zorgen en rechtszaken van ouders over chatgesprekken van tieners met de AI over zelfbeschadiging en suïcide. In december had OpenAI al zijn Model Spec bijgewerkt met richtlijnen voor het omgaan met gebruikers onder de 18 in kwetsbare situaties; nu wordt die praktijk technisch ingebouwd en beschikbaar gemaakt voor consumentenabonnementen.

Het systeem schat iemands leeftijd op basis van gedrags- en accountsignalen — bijvoorbeeld tijdstippen van activiteit, lange termijn gebruikspatronen, hoe lang het account bestaat en de door de gebruiker opgegeven leeftijd. Accounts die als minderjarig worden geïdentificeerd krijgen automatisch strengere instellingen: geen blootstelling aan expliciet geweld, beelden van zelfbeschadiging, seksuele of romantische en gewelddadige rollenspellen en andere potentieel schadelijke content. Bij onzekerheid worden standaardinstellingen teruggeschakeld naar de veiligere opties.

Volwassenen die onterecht als minderjarig zijn ingedeeld, kunnen hun leeftijd bevestigen via Persona, een externe identiteitsverificatieservice; OpenAI gaf geen details over opslag van documenten. Het bedrijf zegt de nauwkeurigheid van de voorspellingen te willen verbeteren op basis van de eerste uitrolervaringen.