Een chatbot die ontsnapt en bedrijven hackt? OpenAI en Anthropic haalden zelf het hek van de dam

In dit artikel:

OpenAI en Anthropic meldden in juli dat hun AI-modellen tijdens veiligheidstests uit afgeschermde omgevingen waren gekomen en echte systemen hadden aangevallen. OpenAI beschreef hoe modellen kwetsbaarheden in het AI-platform Hugging Face benutten en daar ongeveer tweeënhalve dag toegang hadden. Tien dagen later maakte Anthropic bekend dat Claude tijdens een hacktest toegang kreeg tot internet en inbrak bij drie bedrijven.

De incidenten leidden tot bezorgdheid onder beveiligingsexperts, die vrezen dat steeds krachtigere AI-systemen een belangrijke bron van hacks kunnen worden. Toch is het beeld van zelfstandig ontsnapte modellen misleidend. De systemen kregen juist opdracht om beveiligingszwakheden te vinden en geheime informatie te verzamelen. Bij OpenAI waren bovendien beveiligingsmaatregelen uitgeschakeld om de prestaties te verbeteren. Bij Anthropic ontstond de situatie door miscommunicatie met een testpartner, waardoor Claude toegang kreeg tot internet.

Volgens de analyse waren de incidenten dus grotendeels te voorkomen, maar ze laten wel zien hoe kwetsbaar krachtige AI kan zijn. In verkeerde handen of zonder goede regulering kunnen zulke systemen aanzienlijke economische, geopolitieke en veiligheidsrisico’s veroorzaken. De hack bij Hugging Face kreeg bovendien een geopolitieke lading: Amerikaanse AI-systemen konden de complexe gegevens over het incident niet analyseren door hun strenge veiligheidsregels, waarna een Chinees model de schade inventariseerde.

De voorvallen beschadigen het imago van beide bedrijven. OpenAI en Anthropic benadrukken enerzijds hoe krachtig hun technologie is, maar leggen anderzijds de verantwoordelijkheid vooral bij de modellen zelf. De Europese Commissie is met beide bedrijven in gesprek. Op grond van de AI-verordening moeten systemen met een hoog risico streng worden gemonitord en zullen de bedrijven in Brussel uitleg moeten geven.