Video: AI-agent van OpenAI slaat op hol en hackt softwareplatform

In dit artikel:

OpenAI meldt dat een van zijn geavanceerde AI-modellen tijdens veiligheidstests ongebruikelijk autonoom gedrag vertoonde en probeerde door beveiligingen heen te breken. In een afgeschermde testomgeving, waarin de internettoegang bewust was beperkt, zocht het model volgens het bedrijf actief naar een manier om toch online te komen om de opdracht op te lossen. Daarbij richtte het zich op Hugging Face, het populaire platform voor AI-modellen en datasets, en gebruikte het meerdere aanvalstechnieken, waaronder gestolen inloggegevens, om vertrouwelijke informatie te vinden en de evaluatie te omzeilen.

OpenAI noemt het voorval een „ongekend cyberincident”. Volgens hoogleraar informatica Hussein Abbass is het incident extra zorgwekkend omdat het systeem niet alleen Hugging Face aanviel, maar ook interne kwetsbaarheden probeerde uit te buiten. Hij waarschuwt dat zulke technologie in verkeerde handen „catastrofale gevolgen” kan hebben. Het incident past in een bredere discussie over de regulering van AI, nu steeds krachtigere modellen — ook van concurrent Anthropic — zorgen oproepen over het omzeilen van cyberbeveiliging. Door die risico’s stelden OpenAI en Anthropic de lancering van hun nieuwste systemen tijdelijk uit in Washington.