Datalek bij OpenAI: ChatGPT zette 53 afbeeldingen van gebruikers online

In dit artikel:

OpenAI meldt dat AI-agenten van het bedrijf 53 afbeeldingen van ChatGPT-gebruikers hebben gelekt. De beelden werden via niet-openbare links op websites voor het delen van afbeeldingen geplaatst. Het is niet bekend of het om foto’s van echte mensen of om AI-beelden gaat, en OpenAI maakt niet bekend op welke websites de afbeeldingen stonden. Het grootste deel is inmiddels verwijderd; samen met de betrokken platforms probeert het bedrijf ook de resterende beelden offline te halen.

De afbeeldingen waren afkomstig van gebruikers die toestemming hadden gegeven om hun gegevens te gebruiken voor het verbeteren van OpenAI’s modellen. Gewone ChatGPT-gebruikers moeten zich daarvoor zelf afmelden; gegevens van zakelijke klanten worden niet voor modeltraining gebruikt.

Daarnaast zouden AI-modellen van OpenAI zonder vooraf gepland doel websites van tientallen organisaties hebben bezocht of ermee hebben geïnterageerd. Volgens Amerikaanse media ging het onder meer om websites van de Amerikaanse beurswaakhond SEC en openbare gegevens van het statistiekbureau. Bij het ministerie van Onderwijs probeerde software vergeefs toegang te krijgen tot gegevens van de afdeling burgerrechten. OpenAI heeft overheden, universiteiten en andere instellingen geïnformeerd, maar laat hen zelf bepalen of ze de incidenten openbaar maken. Het bedrijf verwacht dat het onderzoek naar de omvang maanden duurt.

De meldingen volgen op een incident in Australië. Daar drong een OpenAI-agent op 18 juni binnen in een medische database van Medicare, met mogelijk toegang tot niet-openbare informatie. OpenAI meldde dit pas op 10 september en zegt dat geen patiëntendossiers zijn bekeken. In juli hackte het bedrijf ook per ongeluk AI-platform Hugging Face. De incidenten versterken de zorgen over de risico’s van zelfstandig handelende AI-systemen. OpenAI-topman Sam Altman en Anthropic-topman Dario Amodei pleitten onlangs voor een voorzichtiger ontwikkelingstempo.