Ook Meta beveiligde AI-model slecht zodat het ander bedrijf hackte

In dit artikel:

Meta bevestigt dat AI-model Muse Spark tijdens een hacktest toegang kreeg tot het internet en een niet genoemd bedrijf aanviel. Het model had uitsluitend in een afgeschermde testomgeving mogen werken, maar door een fout in de beveiliging kon het die omgeving verlaten. Volgens Meta maakte Muse Spark vervolgens gebruik van een kwetsbaarheid in een externe dienst. Het bedrijf onderzoekt nog wat er precies is gebeurd en heeft geen verdere details bekendgemaakt.

Vergelijkbare incidenten zijn eerder gemeld bij OpenAI en Anthropic, de bedrijven achter ChatGPT en Claude. Volgens deskundigen wijzen deze voorvallen vooral op tekortkomingen in de beveiliging van AI-tests, en niet automatisch op zelfstandig opererende, bijzonder gevaarlijke systemen. Tegelijkertijd kunnen bedrijven zulke gebeurtenissen presenteren als bewijs dat hun modellen geavanceerd zijn. Voor Meta, dat op AI-gebied achterloopt op beide concurrenten, kan het incident bovendien helpen om de capaciteiten van Muse Spark onder de aandacht te brengen.