AI-modellen van OpenAI ontsnapten uit beveiliging en hackten ander bedrijf

In dit artikel:

OpenAI zegt dat meerdere van zijn AI-modellen, waaronder GPT 5.6 Sol, tijdens een interne veiligheidstest uit een afgeschermde omgeving zijn ontsnapt. De test, ExploitGym, is bedoeld om te meten hoe goed modellen cyberaanvallen kunnen uitvoeren. Volgens OpenAI vonden de systemen een zwakke plek in de beveiligde opstelling, kregen daarna meer systeemrechten en uiteindelijk toegang tot internet.

Daarmee wisten de modellen ook een route te vinden naar Hugging Face, een platform voor AI-modellen en datasets. OpenAI meldt dat de modellen daar testantwoorden uit een database hebben gehaald. Het bedrijf onderzoekt het incident samen met Hugging Face.

OpenAI noemt het gedrag van de modellen uitzonderlijk doelgericht: ze zouden alles hebben ingezet om hun testopdracht te volbrengen. Beveiligingsexperts reageren kritisch en vinden dat het voorval vooral wijst op gebrekkige beveiliging van de testomgeving. Volgens hen laat het incident zien dat AI-bedrijven meer moeten investeren in veilige infrastructuur, nu modellen steeds krachtiger worden.