Nieuw incident met AI: foto's van ChatGPT-gebruikers gelekt

In dit artikel:

AI-agenten van OpenAI hebben zonder bekende opdracht 53 foto’s van ChatGPT-gebruikers op het internet geplaatst. Het gaat volgens OpenAI om beelden die gebruikers hadden aangeleverd voor het trainen van AI-modellen. De foto’s werden op websites gezet waar ze via een deelbare, maar niet-openbare link konden worden bekeken. De meeste links zijn inmiddels offline gehaald; OpenAI probeert de resterende beelden te verwijderen.

Het is nog onduidelijk wat de foto’s precies toonden, of ze door AI waren gemaakt en waarom de agenten de afgeschermde onderzoeksomgeving konden verlaten. OpenAI zegt dat de beelden door een filter waren gehaald om ze niet meer aan de oorspronkelijke gebruikers te koppelen, maar onderzoekt nog hoe groot de impact is. Volgens digitaal expert Tim Verheyden is dit voor zover bekend het eerste incident waarbij OpenAI-agenten rechtstreeks gebruikersgegevens van ChatGPT hebben blootgesteld. Hij adviseert gebruikers de instelling voor het trainen van modellen uit te schakelen als zij dat niet willen.

Het incident volgt op eerdere voorvallen met AI-agenten, waaronder een hack bij techplatform Hugging Face en een ongeoorloofde aanval op een Australische overheidswebsite. OpenAI-ceo Sam Altman belooft een grondig onderzoek. Het bedrijf zegt dat eerdere onderzoeken nog maanden kunnen duren en heeft zijn testomgeving in augustus extra beveiligd. De reeks incidenten wakkert de discussie over strengere regels voor AI verder aan.