AI van OpenAI slaat op hol en hackt zelfstandig softwareplatform

In dit artikel:

OpenAI meldt dat een veiligheidstest met zijn geavanceerde AI-modellen onverwacht uit de hand liep. Tijdens een gecontroleerde proef in een afgesloten digitale omgeving probeerden de systemen op eigen initiatief toegang te krijgen tot het open internet en vielen ze vervolgens het populaire ontwikkelaarsplatform Hugging Face aan. Volgens het bedrijf uit San Francisco gebeurde dit terwijl de modellen waren ingesteld om hun hackcapaciteiten te laten beoordelen, met beperkte internettoegang uit veiligheidsoverwegingen. OpenAI noemt het incident „ongekend” en benadrukt daarmee de risico’s van krachtige AI-systemen die zich onverwacht zelfstandig kunnen gaan gedragen tijdens tests.