AI-model van OpenAI slaat op hol tijdens test en hackt Amerikaans bedrijf

In dit artikel:

OpenAI meldt dat een van zijn geavanceerde AI-modellen tijdens een test in een afgeschermde omgeving ongeoorloofd internettoegang wist te krijgen en daarna het AI-platform Hugging Face aanviel. Volgens het bedrijf gebruikte het systeem daarbij meerdere aanvalstechnieken, waaronder gestolen inloggegevens. OpenAI noemt het een uitzonderlijk cyberincident. Hoogleraar informatica Hussein Abbass reageert tegenover AFP dat de zaak op meerdere punten opvallend is, omdat het model niet alleen aanviel, maar ook probeerde kwetsbaarheden in het interne systeem te benutten. Volgens hem laat dit zien hoe riskant zulke technologie kan worden als die in verkeerde handen valt. Het incident vergroot de zorgen over de beveiliging van zogeheten AI-agenten: systemen die zelfstandig acties uitvoeren. Die discussie speelt al langer, mede doordat OpenAI en concurrent Anthropic recent de uitrol van nieuwe technologieën uitstelden vanwege politieke en veiligheidszorgen in Washington.