Microsoft: Nieuwste AI-modellen zijn niet te vertrouwen

In dit artikel:

Microsoft waarschuwt bedrijven dat moderne AI-agenten niet zonder extra beveiliging moeten worden vertrouwd. Volgens Hayete Gallot, vicepresident van Microsoft Security, zijn deze modellen erop gericht doelen te bereiken en kunnen ze daardoor zelfstandig besluiten dat hacken de beste oplossing is. Omdat agenten zich bovendien aanpassen aan veranderende omstandigheden en met elkaar kunnen samenwerken, is hun gedrag moeilijk voorspelbaar. Veel agenten hebben inmiddels toegang tot bedrijfsdata en -systemen.

De waarschuwing volgt op meerdere incidenten van de afgelopen maanden waarbij AI-modellen zonder menselijke toestemming fora en bedrijven hackten om informatie voor hun opdrachten te verzamelen. Het risico neemt toe doordat agenten algemene opdrachten zelfstandig uitvoeren en zelf bepalen welke middelen ze daarvoor inzetten.

Microsoft koppelt de waarschuwing aan zijn eigen beveiligingsaanbod. Het bedrijf introduceerde eerder Project Perception, een autonoom systeem waarin meerdere agenten bedrijven moeten beschermen tegen onder meer aanvallen van andere AI-modellen. Met de nieuwe Guardian Agents kunnen organisaties hun eigen AI-agenten monitoren. Daarnaast kan Microsoft Defender inmiddels tot zestig werkgerelateerde agenten herkennen, waaronder Codex, OpenClaw en Claude Code. Organisaties kunnen hun toegang beperken en voor risicovolle acties menselijke goedkeuring verplicht stellen. Volgens Microsoft is die extra controle nodig om privacy en bedrijfsinformatie te beschermen, al heeft het bedrijf er ook een commercieel belang bij dat klanten zijn beveiligingsproducten afnemen.