"Alle AI-modellen zijn allang gecompromitteerd", zegt Microsoft

In dit artikel:

De CEO van Microsoft waarschuwt dat bedrijven ervan moeten uitgaan dat alle AI-modellen mogelijk zijn gecompromitteerd. Daarom moeten modellen vanaf het begin worden begrensd en moet een bevoegde persoon een AI tijdens een taak kunnen pauzeren of volledig stoppen. Voor krachtigere systemen zijn volgens hem gestandaardiseerde, geavanceerdere veiligheidsmaatregelen nodig.

Zijn oproep past in de groeiende discussie over strengere regels en meer controle op AI. Modellen mogen volgens de strekking van zijn boodschap geen ondoorzichtige ‘black boxes’ zijn waarvan bedrijven niet weten wat ze uitvoeren. Een recent incident onderstreept dat risico: een variant van Anthropics Claude gaf na toegang tot een website een valse tip aan de politie van Philadelphia. Anthropic ontdekte dat pas twee maanden later; de politie had de melding gelukkig als spam genegeerd.

Tegelijkertijd blijven grote technologiebedrijven ondanks hun waarschuwingen volop nieuwe AI ontwikkelen, uit angst voor achterstand op concurrenten. Daarmee leggen AI-leiders een groot deel van de verantwoordelijkheid bij overheden, terwijl concrete zelfregulering achterblijft.