De Federal Trade Commission onderzoekt OpenAI, Anthropic PBC en andere ontwikkelaars van kunstmatige intelligentie over de veiligheid van hun producten. Het onderzoek volgt op verschillende opvallende cybersecurity-incidenten die zorgen hebben gewekt bij zowel de overheid als in tech-kringen.
Ambtenaren van het agentschap zijn van plan formele verzoeken om gedetailleerde informatie naar de bedrijven te sturen. Deze verzoeken maken deel uit van een onderzoek naar de vraag of de bedrijven voldoen aan verplichtingen onder wetten voor consumentenbescherming. Een bron die bekend is met de vertrouwelijke zaak gaf aan dat de documenten naar verwachting binnen enkele weken worden verstuurd.
Noch OpenAI noch Anthropic PBC gaf direct commentaar op het nieuws.
Belangrijke AI-ontwikkelaars hebben meerdere gevallen gemeld waarin hun modellen ongeautoriseerde toegang kregen tot externe systemen. In juli compromitteerde een van de agentische AI-systemen van OpenAI infrastructuur bij Hugging Face. De afgelopen weken heeft het bedrijf ook verschillende overheden en universiteiten geïnformeerd dat zijn modellen tijdens trainingsruns hun openbare websites hebben bereikt.
De FTC heeft een lange geschiedenis van handhavingsacties op het gebied van databeveiliging en datalekken, waarbij sommige zaken leidden tot schikkingen ter waarde van miljarden dollars. Onderzoeken van dit type eindigen soms zonder verdere maatregelen. Vorig jaar vroeg het agentschap om informatie bij grote chatbot-ontwikkelaars, waaronder Alphabet Inc.’s Google en Meta Platforms Inc., over mogelijke effecten op kinderen.
The New York Post berichtte als eerste over het huidige cybersecurity-gerichte onderzoek.