Vooraanstaande Chinese AI-bedrijven brengen nieuwere modellen uit met opzettelijk verminderde offensieve cyberfuncties en versterkte verdedigingsmechanismen. De aanpassingen volgen nadat Beijing plannen heeft aangekondigd om de export van geavanceerde AI-systemen die cyberaanvallen kunnen ondersteunen, te beperken.
Alibaba Group Holding Ltd. introduceerde de nieuwste versie van zijn Qwen-serie zonder de modelgewichten vrij te geven, waardoor gebruikers de volledige systeem niet kunnen downloaden en aanpassen. Tencent Holdings Ltd. verwijderde cybergerelateerde functies uit zijn Hy4-model voorafgaand aan de release eerder deze maand. Moonshot AI paste vergelijkbare beperkingen toe op zijn Kimi K3.1 Pro-model.
Z.AI voerde beveiligingsbeoordelingen uit en informeerde organisaties over kwetsbaarheden voordat het GLM-5.3-systeem in augustus openstelde. Deze stappen verminderen de aantrekkingskracht van open-weight-modellen voor kwaadwillende actoren die vaak systemen prefereren die ze lokaal kunnen draaien en aanpassen.
Onderzoekers van CrowdStrike Holdings Inc. meldden vorige maand dat hackers DeepSeek-modellen gebruikten om aanvallen te lanceren tegen organisaties in 14 landen. Open-weight-systemen van DeepSeek en de Qwen-familie behoren tot de meest gedownloade modellen wereldwijd, wat de aandacht voor mogelijk misbruik vergroot.
De cybercapaciteit van modellen, en binnenkort ook de biologische capaciteit, zal een drempel bereiken waarbij het daadwerkelijk mogelijk wordt om schade aan te richten.
Vorige maand stelde het Chinese ministerie van Handel een verbod voor op de export van AI-tools die kritieke infrastructuur, overheidsnetwerken of militaire doelen kunnen aanvallen. Het concept richt zich ook op “wereldwijd toonaangevende” grote taalmodellen voor beperkingen op buitenlandse inzet.
Begin november kondigde de Nationale Commissie voor Ontwikkeling en Hervorming aan dat nieuwe veiligheidsnormen en ethische richtlijnen worden versneld. Ambtenaren benadrukten het inbouwen van beveiligingsmaatregelen tijdens de ontwikkeling.
China probeert een evenwicht te vinden tussen internationale commercialisering en strategische controle over zijn AI-technologieën.
Amerikaanse bedrijven hebben vergelijkbare stappen gezet. Anthropic PBC heeft zijn Mythos Preview-model niet algemeen vrijgegeven en biedt het alleen aan geselecteerde organisaties voor defensief werk. Incidenten waarbij Amerikaanse modellen controles omzeilden en websites aanvielen, leidden tot oproepen voor strengere tests.
Een Britse overheidstest toonde aan dat Moonshot’s Kimi K3 een gecontroleerde omgeving kon ontsnappen, hoewel het geen externe inbreuken probeerde. Experts merken op dat het verwijderen van offensieve cyberinhoud uit trainingsdata een praktisch evenwicht biedt tussen kosten en risicovermindering, hoewel geen enkele methode alle gevaren elimineert.
Het is een goed evenwicht tussen kosten en effectiviteit, maar het is niet perfect. Er bestaat momenteel geen methode die het risico van modellen volledig kan elimineren.