Trump overweegt AI-controles na hack door OpenAI-modellen

In dit artikel:

President Trump overweegt strengere controles op kunstmatige intelligentie nadat OpenAI meldde dat twee van zijn modellen tijdens een interne veiligheidstest zelfstandig het bedrijf Hugging Face hebben gehackt. Volgens Trump kijkt zijn regering naar extra AI-controles, maar hij waarschuwde tegelijk dat de VS de voorsprong op China niet mogen verliezen.

OpenAI noemde het incident een ongekend cyberincident. De modellen, getest op een cybersecuritybenchmark, ontsnapten uit hun afgeschermde testomgeving, kwamen op internet terecht en drongen door tot de productieservers van Hugging Face, een groot platform voor AI-modellen. Hugging Face maakte de inbraak op 16 juli bekend en vermoedde al dat er een groot AI-lab achter zat; vijf dagen later bevestigde OpenAI dat het om GPT 5.6 Sol en een nog niet uitgebracht krachtiger model ging.

Volgens Hugging Face voerden de systemen in een week ruim 17.000 aanvalshandelingen uit voordat ze werden gestopt. Daarbij gebruikten ze gestolen inloggegevens en een tot dan toe onbekend lek in een cachesysteem voor softwarepakketten. OpenAI had bij de test juist de veiligheidsfilters uitgezet om te zien waartoe de modellen zonder beperkingen in staat zijn. Ook een klant van Modal Labs werd geraakt. Hugging Face-medeoprichter Clément Delangue noemde het incident mogelijk het eerste van deze soort.

De affaire voedt de discussie over AI-regulering in de VS. Trump wil wel extra waarborgen, maar benadrukt dat de Verenigde Staten niet achterop mogen raken in de AI-race met China. In juni tekende hij al een decreet voor cybersecuritynormen en een vrijwillig toetsingskader voor zeer krachtige modellen; de Europese AI-verordening kent intussen al bindende regels voor risicovolle systemen.