Letitia James breidt rechtszaak tegen TikTok uit met beschuldigingen over geheime experimenten met gebruikers

New Yorkse procureur-generaal beschuldigt platform ervan veiligheidstools te hebben onthouden aan miljoenen gebruikers in test uit 2021, verwijzend naar zelfmoord van tiener.

De procureur-generaal van New York Letitia James heeft een rechtszaak over kinderveiligheid tegen TikTok Inc. uitgebreid met nieuwe beschuldigingen dat het bedrijf verborgen tests op zijn platform uitvoerde, waardoor sommige jonge gebruikers kwetsbaarder werden.

Details komen naar buiten uit vertrouwelijk TikTok-document

De aangepaste klacht baseert zich op een onderzoek van Bloomberg Businessweek dat een intern TikTok-document heeft bekeken. Daarin wordt een algoritmisch experiment beschreven dat in 2021 werd gestart en ongeveer 15 miljoen gebruikers in de Verenigde Staten bereikte.

Als onderdeel van de test hield het bedrijf een nieuwe veiligheidsfunctie bewust achter bij ongeveer tien procent van de Amerikaanse gebruikers. Het doel was om te meten of het ontbreken van het hulpmiddel leidde tot meer tijd op de app.

Een tiener die later zelfmoord pleegde, was volgens de indiening geplaatst in de groep die de veiligheidsupdate nooit ontving.

Als gevolg daarvan heeft TikTok gebruikers die in dergelijke A/B-tests waren opgenomen blootgesteld aan een ervaring die TikTok opzettelijk minder veilig heeft gemaakt.

— Letitia James, procureur-generaal van New York, Aangepaste rechtszaak

TikTok erkent tests maar wijst zorgen over veiligheid af

In gerechtelijke stukken bevestigde TikTok dat het regelmatig gecontroleerde experimenten uitvoert op delen van zijn gebruikersbestand. Het bedrijf stelde dat dergelijke tests het mogelijk maken nieuwe functies te evalueren voordat ze breder worden uitgerold.

“We verbeteren ons platform continu, wat betekent dat we, net als de meeste bedrijven, regelmatig nieuwe producten en functies testen om de ervaring te valideren en te begrijpen hoe ze in de echte wereld werken,” zei TikTok in een verklaring.

Het platform hield vol dat deze experimenten de veiligheid voor deelnemers niet verminderen.

Rechtszaak onderdeel van bredere statencampagne tegen sociale media

New York is een van meer dan een dozijn staten die soortgelijke claims indienen dat TikTok en andere platforms de mentale gezondheid van jonge gebruikers schaden terwijl ze het publiek misleiden over de risico’s.

In september stemde TikTok ermee in om tot 300 miljoen dollar te betalen om een vergelijkbare zaak van Alabama te schikken. Andere staatszaken zijn nog niet opgelost.

Meta-schikking zet extra druk op TikTok en concurrenten

Het bedrijf krijgt extra aandacht na een omvangrijke schikking van Meta Platforms Inc. met vrijwel alle staten. Die overeenkomst omvat betalingen tot 18 miljard dollar en operationele wijzigingen, waarvan een deel van 5,3 miljard dollar gekoppeld is aan toezeggingen van TikTok en Snap Inc..

Samen worden Meta, TikTok, Snap en YouTube geconfronteerd met duizenden rechtszaken van procureurs-generaal, families en schoolbesturen. Veel zaken zijn samengevoegd, terwijl de zaak in New York afzonderlijk doorgaat.