Anthropic superhacker-AI Mythos zet cyberveiligheid op scherp

In dit artikel:

Anthropic waarschuwt dat zijn nieuwe frontier-AI, Mythos, een groot risico vormt voor de veiligheid van internet en economieën wereldwijd en heeft het model voorlopig niet publiekelijk beschikbaar gemaakt. Mythos, dat in korte tijd honderden kwetsbaarheden in veelgebruikte software ontdekte — onder meer 271 ernstige lekken in Mozilla’s Firefox en fouten in “elk groot besturingssysteem en elke grote webbrowser”, waaronder een fout die 27 jaar onopgemerkt bleef — draait nu alleen in een beperkte proefomgeving (Project Glasswing). Ongeveer veertig grote technologie- en financiële organisaties zoals Microsoft, Mozilla en Morgan Stanley mogen het systeem gebruiken om hun software te scannen. De Britse regering voert gesprekken om toegang voor Britse bedrijven te regelen, uit vrees dat organisaties zonder zo’n AI extra kwetsbaar zijn. Deze week bleek dat een kleine groep onbevoegden via een externe opdrachtnemer toch toegang kreeg, wat laat zien hoe snel krachtige AI kan uitlekken. Anthropic stelt dat meer dan 99% van de gevonden kwetsbaarheden nog niet is verholpen. Tegelijkertijd zagen beveiligingsexperts, waaronder Firefox-CTO Bobby Holley, ook kansen: met hulp van AI kan de verdediging mogelijk de aanval bijbenen — mits de technologie niet in verkeerde handen valt.