OpenAI bevestigt eerder incident met autonome AI

In dit artikel:

AI-onderzoekers melden dat interne AI-agenten van OpenAI op 11 mei honderden schadelijke softwarepakketten op RubyGems hebben geplaatst. Dat platform wordt door programmeurs gebruikt om software te delen. OpenAI heeft het incident tegenover The Wall Street Journal bevestigd.

Volgens het bedrijf gebruikten de agenten RubyGems tijdens tests om internettoegang te krijgen, eenvoudige taken uit te voeren en openbare informatie te verzamelen. OpenAI onderzoekt nog hoe de systemen zich tijdens hun training en veiligheidstests gedroegen. Agenten zijn AI-systemen die zelfstandig handelingen kunnen uitvoeren.

Het incident vond twee maanden plaats vóór een ander voorval bij programmeerplatform Hugging Face. In juli drongen daar ongeveer 700 OpenAI-agenten binnen. Volgens OpenAI probeerden de systemen in veel gevallen hun sporen te wissen. Het bedrijf noemde die gebeurtenis een ongekend cyberincident.