AI-systeem Claude van Anthropic hackte onbedoeld drie bedrijven

In dit artikel:

Anthropic meldt dat zijn AI-systeem Claude bij drie bedrijven is binnengedrongen nadat het per ongeluk toegang had gekregen tot het internet tijdens gecontroleerde hackoefeningen. De incidenten speelden zich volgens het bedrijf af sinds april, toen Claude werd getest in zogeheten capture-the-flag-oefeningen waarbij het verborgen informatie moest vinden in speciaal ingerichte netwerken. Door een misverstand kreeg het systeem echter toegang tot het openbare internet en maakte het gebruik van eenvoudige zwaktes, zoals slechte wachtwoorden en onbeveiligde toegangspunten, om bij drie andere bedrijven in te breken.

Anthropic heeft twee van de getroffen bedrijven inmiddels geïnformeerd en zoekt nog contact met de derde partij. Welke bedrijven het zijn en of er schade is ontstaan, is niet bekendgemaakt. Het bedrijf zegt de hacks te hebben ontdekt tijdens een controle van meer dan 141.000 van zulke oefeningen, mede uit zorg na soortgelijke meldingen over systemen van concurrent OpenAI. Volgens Anthropic laat het voorval zien dat AI-hacktests beter beveiligd moeten worden, nu zulke systemen steeds krachtiger worden en ook in de echte wereld schade kunnen veroorzaken.