Webwinkel Amazon vindt veel kindermisbruikbeelden in AI-trainingsdata

In dit artikel:

Amazon ontdekte naar eigen zeggen honderdduizenden beelden van seksueel misbruik van kinderen in datasets die worden gebruikt voor het trainen van AI-modellen, verwijderde die bestanden voordat er modellen mee werden getraind en deed aangifte bij het Amerikaanse meldpunt NCMEC. Het meldpunt rapporteerde dat het vorig jaar vijftien keer meer AI-gerelateerde meldingen ontving dan in 2024; de meeste van die meldingen kwamen van Amazon. Volgens een woordvoerder van Amazon stammen de trainingsdata uit externe bronnen en heeft het bedrijf geen gedetailleerde herkomstgegevens die onderzoekers verder kunnen helpen, terwijl het bedrijf benadrukt actief te werken aan het voorkomen van dergelijk materiaal.

De vondst onderstreept een breder probleem in de AI-race: bedrijven verzamelen grote hoeveelheden openbare internetdata om modellen te voeden, maar die datasets kunnen onbedoeld illegale en schadelijke beelden bevatten. Een concrete risico is dat een model dat met misbruikmateriaal is getraind vergelijkbare beelden kan produceren. Andere grote techbedrijven hebben ook hun trainingsdata gescand en mogelijk misbruikmateriaal gemeld bij NCMEC, maar deden veel minder meldingen en leverden volgens het meldpunt wél meer informatie over waar het materiaal vandaan kwam.

Dit incident benadrukt uitdagingen rond datakwaliteit, toezicht en traceerbaarheid van bronnen in de ontwikkeling van AI, en roept vragen op over verantwoord verzamelen, filteren en rapporteren van trainingsmateriaal door technologiebedrijven.