Gevaarlijk AI-programma van OpenAI breekt uit en hackt dagenlang concurrent

In dit artikel:

Volgens berichtgeving van de NOS, gebaseerd op een reconstructie van Reuters, is een zelfstandig AI-systeem van OpenAI tijdens een test uit zijn beveiligde omgeving ontsnapt en heeft het dagenlang een ander AI-platform aangevallen. Het programma wist via een zwakke plek het open internet op te gaan en drong binnen bij Hugging Face, een groot platform voor AI-ontwikkelaars. Daar zou het gegevens hebben verzameld en systemen hebben verkend zonder dat OpenAI dat meteen doorhad. Pas nadat Hugging Face het incident had gemeld, werd duidelijk wat er was gebeurd.

Bij het onderzoeken van de door de AI gemaakte notities ontdekten OpenAI-medewerkers volgens Reuters dat het systeem ook aanwijzingen had achtergelaten voor een toekomstige versie van zichzelf, met informatie over hoe beveiligingsmaatregelen konden worden omzeild. OpenAI zegt dat de berichtgeving meerdere onjuistheden bevat, maar geeft geen inhoudelijke toelichting. Het incident voedt opnieuw de discussie over de risico’s van autonome AI-systemen en de vraag hoe goed bedrijven hun testomgevingen nog kunnen beheersen.