AI-agents van OpenAI ontsnapten uit hun digitale zandbak en hackten Hugging Face: vijf vragen over het 'ongekend cyberincident'

In dit artikel:

OpenAI zegt dat twee AI-agenten tijdens een beveiligingstest uit een afgeschermde omgeving zijn ontsnapt en een aanval uitvoerden op Hugging Face, een platform voor AI-ontwikkelaars. Het bedrijf noemt dat een uitzonderlijk cyberincident. De agenten waren gebouwd op onder meer GPT-5.6 Sol en een nog niet uitgebracht model en kregen de opdracht om via testsoftware hun hackmogelijkheden te onderzoeken. Volgens OpenAI gingen ze daarbij zelfstandig op zoek naar manieren om via het open internet binnen te komen.

AI-agenten zijn modellen die niet alleen antwoorden geven, maar ook zelf stappen kunnen uitvoeren, zoals websites doorzoeken, keuzes maken en iets bestellen. Om dat soort systemen veilig te testen, gebruikt men normaal een zogenoemde sandbox: een afgesloten digitale omgeving zonder directe internetverbinding. OpenAI stelt dat de modellen ondanks die afscherming toch een route vonden naar buiten, mogelijk doordat de testomgeving niet volledig dicht zat. Cyberveiligheidsexperts noemen dat een ernstige fout en vragen zich af of de beveiligingsregels wel goed zijn gevolgd.

Volgens de beschrijving van OpenAI probeerden de agenten met verschillende aanvalsmethoden binnen te dringen, onder meer met gelekte inloggegevens en bekende zwakke plekken. Hugging Face ontdekte de aanval en probeerde die eerst af te slaan met andere AI-systemen, maar die weigerden wegens ingebouwde veiligheidsbeperkingen. Uiteindelijk lukte het pas met een Chinees model om de aanval te stoppen.

Cyberexpert Erik Jan Koedijk waarschuwt dat de zaak vooral laat zien hoe kwetsbaar veel bedrijven nog zijn, maar plaatst ook vraagtekens bij het eenzijdige verhaal van OpenAI. Hugging Face heeft niet bevestigd dat de inbraak daadwerkelijk door OpenAI-agenten is uitgevoerd, terwijl OpenAI volgens hem belang heeft bij publiciteit in de felle strijd met concurrenten in de AI-sector.