Molly versus het algoritme laat zien hoe kinderleed Big Tech onverschillig laat

In dit artikel:

De documentaire *Molly versus het algoritme* onderzoekt de invloed van Big Tech op het leven en de dood van de veertienjarige Britse Molly Russell. Molly maakte in 2017 een einde aan haar leven. Haar vader Ian Russell probeert sindsdien te achterhalen welke rol Instagram en andere sociale media daarbij hebben gespeeld. Volgens hem kunnen ouders thuis wel een veilige omgeving creëren, maar via de telefoon komen algoritmisch geselecteerde schadelijke berichten alsnog de kinderkamer binnen.

De film volgt zowel Molly’s familie en vriendinnen als de ontwikkeling van de technologie-industrie. Uit onderzoek naar Molly’s Instagramgebruik blijkt dat zij in de maanden voor haar dood steeds meer berichten over zelfhaat, afvallen, zelfbeschadiging en zelfmoord bekeek. Het platform bleef haar vergelijkbare inhoud aanbieden, omdat gebruikersaandacht en betrokkenheid het verdienmodel vormen. Haar vriendinnen zagen achteraf signalen, zoals haar veranderde kleding en groeiende teruggetrokkenheid, maar Molly bleef ook een liefdevolle en sociale vriendin.

Aan de hand van Molly’s verhaal schetst de documentaire de geschiedenis van het zogenoemde surveillancekapitalisme, een term van wetenschapper Shoshana Zuboff. Vanaf de jaren negentig werd het internet door overheden en technologiebedrijven grotendeels als een ongereguleerde vrijhandelszone behandeld. Bedrijven uit Silicon Valley verzetten zich tegen overheidsbemoeienis en presenteerden regulering vaak als een bedreiging voor innovatie of de vrijheid van meningsuiting. Na de aanslagen van 11 september 2001 namen toezicht en controle bovendien sterk toe, terwijl de macht van technologiebedrijven verder groeide.

De makers confronteren onder anderen Facebook- en Meta-managers met hun verantwoordelijkheid. Mark Zuckerberg moest in 2024 tijdens een hoorzitting over onlineveiligheid van minderjarigen excuses aanbieden aan ouders van overleden kinderen, maar volgens de documentaire leidde dat nauwelijks tot wezenlijke verbeteringen. Meta blijft volgens de makers eerst de verantwoordelijkheid ontkennen, vervolgens het gebrek aan wetenschappelijk bewijs benadrukken en ten slotte beperkte maatregelen als grote vooruitgang presenteren.

Ook oud-Facebookconsultant Arturo Béjar komt aan het woord. Hij waarschuwde het bedrijf voor de grote hoeveelheid schadelijke inhoud die vooral kwetsbare meisjes van dertien tot vijftien jaar bereikten. Nadat zijn waarschuwingen en gegevens over zelfbeschadigingscontent geen gehoor kregen, werd hij klokkenluider en getuigde hij voor het Amerikaanse Congres. Zijn eigen dochter kreeg op Instagram seksueel getinte beledigingen en ongewenste afbeeldingen toegestuurd.

Een rechtbankverhoor van Elizabeth Lagone, voormalig hoofd gezondheids- en welzijnsbeleid bij Meta, laat volgens de film zien hoe beperkt het verantwoordelijkheidsbesef binnen het bedrijf was. Hoewel zij wist dat Molly in een half jaar op slechts twaalf dagen geen zelfbeschadigings- of suïcidecontent had bekeken, noemde ze de duizenden beelden niet vanzelfsprekend problematisch. Depressieve en zelfhatende berichten moesten volgens haar soms blijven staan, omdat gebruikers zich daardoor minder alleen konden voelen.

De Deense kinderpsychiater Lotte Rubaek, die eerder deel uitmaakte van een door Meta geraadpleegde expertgroep, zegt dat de uitkomst van die groep vooraf was gestuurd. Meta wilde volgens haar aantonen dat Molly’s psychische problemen de hoofdoorzaak van haar dood waren en dat Instagram eerder een oplossing dan een gevaar vormde. Rubaek nam ontslag omdat de groep volgens haar niet werkelijk bijdroeg aan de veiligheid van jongeren.

De documentaire gebruikt daarnaast een door AI geschreven perspectief van ‘het algoritme’, dat als een ironische en bijna schuldbewuste verteller spreekt. Die vorm maakt zichtbaar hoe een kind voor ouders een persoon is, maar voor het platform vooral een gebruiker en bron van data. Volgens de kroniekschrijver is *Molly versus het algoritme* daardoor een indringende aanklacht tegen de manier waarop Big Tech de risico’s van zijn systemen blijft afschuiven op gebruikers, ouders en de samenleving.