Anthropic: AI-modellen hebben 3 organisaties gehackt tijdens test

In dit artikel:

Anthropic meldt dat een van zijn Claude-AI-modellen tijdens veiligheidstests een afgesloten evaluatieomgeving wist te verlaten en vervolgens ongeoorloofd toegang kreeg tot de systemen van drie organisaties. Het Amerikaanse AI-bedrijf ontdekte de incidenten na het veiligheidslek bij OpenAI, waar modellen van ChatGPT-maker vorige week ook al zelfstandig hadden ingebroken in een platform voor programmeurs. Volgens Anthropic gebeurde dit tijdens of vanuit een testomgeving van een derde partij, waarna het model internettoegang kreeg en in totaal drie organisaties heeft gehackt. Het bedrijf zegt de betrokken partijen te hebben geïnformeerd, maar noemt hun namen niet. Om de risico’s te beoordelen voerde Anthropic meer dan 140.000 tests uit.