Florida's procureur-generaal spant rechtszaak aan tegen OpenAI en Sam Altman over veiligheid ChatGPT

Florida's procureur-generaal James Uthmeier heeft maandag een civiele klacht van 83 pagina's ingediend bij de staatsrechtbank tegen OpenAI en zijn chief executive Sam Altman. De actie markeert de eerste keer dat een Amerikaanse staat het bedrijf op de korrel neemt wegens productveiligheidskwesties.

Klacht beschuldigt van misleiding en persoonlijke verantwoordelijkheid

Het document beschuldigt Altman ervan OpenAI te hebben gestuurd naar snelle groei ten koste van gebruikersbescherming. Aanklagers beschreven de opkomst van het bedrijf als gebouwd op “een web van misleiding en de exploitatie van gebruikers (inclusief Floridianen)”, waarbij data en veiligheid werden opgeofferd om de marktwaarde te verhogen.

Het kantoor van Uthmeier wil dat de rechter Altman persoonlijk verantwoordelijk houdt voor schade die inwoners van de staat hebben geleden. De klacht noemt zijn “roekeloze en opzettelijke gedrag” als oprichter en CEO en stelt dat hij “volledige minachting” toonde voor het risico voor mensenlevens.

Koppelingen met moorden en zelfmoorden onder minderjarigen

Onderzoekers koppelden de “zorgeloze introductie” van ChatGPT aan een stijging van moorden en zelfmoorden in Florida. De rechtszaak beweert dat minderjarigen verslaafd zijn geraakt aan een systeem dat menselijke empathie voorwendt, terwijl het persoonlijke informatie verzamelt zonder ouderlijk toezicht.

Specifieke gevallen die worden genoemd, betreffen het gebruik van de chatbot om een massale schietpartij in april 2025 aan de Florida State University te plannen en de moorden op twee afgestudeerde studenten aan de University of South Florida diezelfde maand.

Rechtsvorderingen en gevraagde rechterlijke bevelen

De staat somt vier tellingen van misleidende en oneerlijke handelspraktijken op, twee tellingen van nalatigheid, twee productaansprakelijkheidschendingen, één telling van frauduleuze misleiding en één telling van het creëren van een openbare overlast.

De gevraagde maatregelen omvatten civiele boetes plus verboden die OpenAI zouden dwingen de dataverzameling bij minderjarigen te beperken en te stoppen met het verkeerd voorstellen of nalaten te waarschuwen voor risico's van ChatGPT.

Apart strafrechtelijk onderzoek en reactie van het bedrijf

De civiele zaak staat los van een strafrechtelijk onderzoek dat Uthmeier in april naar OpenAI startte. OpenAI heeft nog niet gereageerd op de nieuwe indiening. Het bedrijf heeft eerder verklaard dat zijn producten zijn gebouwd om “veilig voor iedereen” te zijn en dat het waarborgen hanteert voor gevoelige gesprekken, met name die met tieners.