Nieuw AI-model van Anthropic mag vooral niet in verkeerde handen vallen

In dit artikel:

Anthropic maakte gisteren bekend dat zijn nieuwe AI, Claude Mythos, kwetsbaarheden in besturingssystemen en webbrowsers kan opsporen wanneer gebruikers daarom vragen. Tegelijk bleek het model ook in staat exploits te ontwikkelen — dus concrete methoden om die zwaktes te misbruiken — iets wat volgens het bedrijf onbedoeld is ontstaan tijdens het trainen om beveiligingslekken te dichten. Anthropic waarschuwt dat die dubbele inzetbaarheid de technologie gevaarlijk maakt als ze in verkeerde handen valt, ook al ziet het bedrijf uiteindelijk meer voordelen voor verdedigers dan risico’s op langere termijn.

Om het misbruikrisico te beperken, is de proefversie Claude Mythos Preview alleen beschikbaar gesteld voor deelnemers aan Project Glasswing, een samenwerkingsverband met tientallen techbedrijven zoals Amazon, Apple, Google, Microsoft en Nvidia; onderzoekers van die bedrijven mogen het model eerst inzetten om hun eigen digitale veiligheid te verbeteren. Anthropic zegt de opgedane inzichten later met de sector te delen en stelt voor het initiatief 100 miljoen dollar ter beschikking. Het bedrijf voert ook gesprekken met de Amerikaanse overheid over de proefversie, nadat het onlangs nog in een geschil verwikkeld was met de regering-Trump over militair gebruik van zijn AI.