Verkopers van kleding op Vinted misleiden kopers met AI-foto's van modellen

In dit artikel:

Verkopers op Vinted zetten steeds vaker AI-gegenereerde modelfoto’s in om tweedehands kleding aantrekkelijker te presenteren, maar daarmee lopen ze het risico kopers te misleiden. Het platform zegt dat dit verboden is als het product daardoor niet meer accuraat wordt weergegeven. Vinted geeft geen cijfers over hoe vaak dit voorkomt, maar erkent dat een kleine groep gebruikers AI op een misleidende manier inzet.

Voor kopers is het lastig om te zien of een foto echt is of door AI is gemaakt. Digitaal onderzoeker Henk van Ess ontwikkelde daarom de tool ImageWhisperer, die aan de hand van details als lichtval, naden, prints en labeltekst aanwijzingen kan geven voor AI-gebruik. Volgens hem kan ook metadata helpen om vast te stellen waar een beeld vandaan komt, maar die informatie wordt bij uploads vaak verwijderd.

Vinted zegt misleidende AI-beelden te bestrijden met automatische controles, moderatoren en meldingen van gebruikers. Naast een mogelijk teruggestuurd pakket kan een verkoper ook een schorsing riskeren. Niet al het AI-gebruik is verboden: het platform staat bijvoorbeeld toe dat iemand belichting aanpast of een achtergrond verwijdert, zolang het artikel zelf maar goed in beeld blijft. Vanaf 2 augustus geldt bovendien in de EU de AI Act, die meer duidelijkheid over AI-beelden moet geven, al is nog onzeker of dat op platforms als Vinted voldoende onderscheid zal brengen.