Chatbot Claude wil minderjarige gebruikers blokkeren

In dit artikel:

Anthropic introduceert voor zijn chatbot Claude een classificatiemodel dat op basis van gesprekssignalen probeert te schatten of een gebruiker minderjarig is. Het doel is te handhaven dat alleen gebruikers van 18 jaar en ouder toegang krijgen: accounts waarvan het systeem vermoedt dat ze jonger zijn dan achttien kunnen worden geblokkeerd. Het bedrijf geeft niet prijs welke taaltekens of gedragskenmerken precies worden gebruikt en het is nog onduidelijk wanneer deze functie wordt ingevoerd.

OpenAI volgt een andere route met ChatGPT: die chatbot sluit geen accounts van vermoedelijk minderjarigen, maar past het antwoordgedrag aan en is terughoudender bij gevoelige thema’s zoals zelfdoding, seksualiteit en gevaarlijke handelingen; bij directe suïcidale risico’s kan ChatGPT volgens OpenAI hulpdiensten of ouders inschakelen. Beide benaderingen illustreren de spanning tussen kinderbescherming, privacy en de toegankelijkheid van AI-diensten; automatische leeftijdsschatting roept ook vragen op over foutmarges, bias en onbedoelde uitsluiting.

Kort samengevat: Anthropic bouwt ‘leeftijdsdetectie’ in Claude om minderjarigen te weren, OpenAI beperkt in plaats daarvan het type hulp en informatie dat vermoedelijk jonge gebruikers krijgen. Bij acute suïcidale gedachten kun je 24/7 terecht bij 113 (Nederland) via 0800-0113 of 113.nl; in België via 1813 of zelfmoord1813.be.