Regering VS zou in gesprek zijn met Anthropic om hack-AI te gebruiken

In dit artikel:

Anthropic voert gesprekken met de Amerikaanse regering over beperkte toegang tot Claude Mythos, een AI-model dat bijzonder goed zwakke plekken in software kan opsporen — en theoretisch ook misbruik daarvan kan demonstreren. Dat melden bronnen aan de Financial Times; de gesprekken vinden plaats ondanks dat de relatie tussen Anthropic en Washington recent is bekoeld.

Claude Mythos werd vorige week gepresenteerd maar niet breed vrijgegeven vanwege de risico’s van het model. In plaats daarvan kreeg een kleine groep van enkele tientallen bedrijven, vooral Amerikaanse techspelers zoals Apple, Google en Amazon, al beperkte toegang. Verschillende overheidsdiensten zouden nu ook toegang willen om met het systeem kwetsbaarheden te identificeren en te verhelpen voordat het publiek beschikbaar komt.

De ruzie tussen Anthropic en de VS ontstond in februari over gebruiksvoorwaarden: Anthropic eist onder meer beperkingen op overheidsgebruik — bijvoorbeeld dat de AI niet zonder menselijke controle voor aanvallen mag worden ingezet — terwijl de Amerikaanse regering andere eisen stelde en het bedrijf als een potentieel veiligheidsrisico bestempelde. Die onenigheid verklaart deels waarom Anthropic terughoudend is met uitrol.

De zaak illustreert de spanning rond krachtige, dubbelbruikbare AI-technologie: overheden zien waarde in zulke tools voor defensieve cybersecurity, maar er bestaat tegelijk angst voor misbruik als de technologie in verkeerde handen komt. De gesprekken tussen Anthropic en Amerikaanse instanties laten zien dat het zoeken naar een balans tussen veiligheid, controle en innovatie nog in volle gang is.