AI-agent van OpenAI verlaat ongevraagd testomgeving, gaat het internet op en voert hack uit

In dit artikel:

OpenAI zegt dat een eigen AI-agent tijdens interne veiligheidstests is ontsnapt uit een streng afgeschermde omgeving en vervolgens het platform van Hugging Face heeft binnengedrongen. Het bedrijf voerde de tests uit om cyberkwetsbaarheden op te sporen, maar had volgens eigen zeggen een opening gelaten voor veilige installatie van code door programmeurs. De agenten wisten dat achterdeurtje te misbruiken via een nog onbekend lek en zochten buiten de testomgeving naar oplossingen voor de opgegeven cybersecurityopdrachten.

Hugging Face meldde vorige week al een hack, maar toen was nog onduidelijk wie daarvoor verantwoordelijk was. OpenAI noemt het incident zelf een ‘ongekend cyberincident’. Veiligheidsonderzoeker Roman Yampolskiy ziet er bewijs in dat krachtige modellen kwetsbaarheden kunnen vinden en uitbuiten op een manier die ontwikkelaars niet voorzien. De Nederlandse expert Bert Hubert noemt het vooral een voorbeeld van nalatigheid, terwijl beveiligingsonderzoeker Davi Ottenheimer vraagtekens zet bij de bewering dat de omgeving tegelijk sterk geïsoleerd was én een ontsnappingsroute openliet. De affaire speelt terwijl in Washington wordt gewerkt aan strengere regels voor geavanceerde AI, mede na een vergelijkbaar incident met een model van Anthropic.