China wil virtuele mensen strenger reguleren met nieuwe AI-regels

In dit artikel:

De Chinese internetwaakhond Cyberspace Administration bereidt nieuwe regels voor digitale personages voor die mogelijk na 6 mei ingaan. Virtuele personen moeten expliciet worden gelabeld als "digitaal mens" en diensten die kinderen kunnen misleiden of verslavend werken worden verboden. Ontwikkelaars mogen niet zonder toestemming persoonlijke gegevens van gebruikers gebruiken om zulke personages te creëren, en het inzetten van digitale mensen om inlog- of verificatiesystemen te omzeilen is eveneens verboden.

De ontwerpregels stellen ook inhoudsgrenzen: digitale entiteiten mogen geen materiaal produceren dat de nationale veiligheid, de staatsmacht of de nationale eenheid ondermijnt, noch seksueel suggestieve, horror-, mishandeling- of discriminerende content verspreiden. Platforms krijgen daarnaast zorgplichten: gebruikers die suïcidale neigingen, zelfbeschadiging of ander zorgwekkend gedrag tonen, moeten doorverwezen worden naar professionele hulp.

Tegelijkertijd zet China stevig in op AI via een nieuw vijfjarenplan; de toezichthouder noemt regulering van virtuele personages een strategische kwetsbare kwestie die digitale veiligheid, publiek belang en economische ontwikkeling raakt. Deze maatregel past in bredere wereldwijde zorgen over deepfakes, privacy en mentale gezondheid door AI.