DeepSeek schetst DSec-platform voor schaalbare en veiligere training van AI-agenten

Chinees AI-bedrijf beschrijft elastisch computersysteem om dagelijks miljoenen agent-sandboxes te testen en risico’s van wangedrag aan te pakken

Het Chinese kunstmatige-intelligentiebedrijf DeepSeek heeft een nieuwe aanpak voor de training van AI-agenten uiteengezet die zowel meer efficiëntie als sterkere waarborgen tegen ongewenste acties benadrukt. Het bedrijf uit Hangzhou presenteerde zijn ideeën in een gedetailleerd onderzoekspaper over DeepSeek Elastic Compute, ook wel DSec genoemd.

Grootschalige testomgevingen voor agenten

Het tienduizend woorden tellende paper vermeldt ongeveer 130 co-auteurs, waaronder Liang Wenfeng, de oprichter van het bedrijf. Het werk, geplaatst op de preprintserver arXiv, beschrijft een platform dat is ontworpen om miljoenen geïsoleerde testomgevingen, sandboxes genaamd, te draaien. Een enkele productie-eenheid van DSec zou volgens de auteurs dagelijks ongeveer 3 miljoen van dergelijke omgevingen kunnen ondersteunen en tegelijkertijd 380.000 actief kunnen houden.

Het systeem verbetert het resourcegebruik door rekenkracht alleen toe te wijzen aan agenten die actief werken. DeepSeek merkte op dat 90 procent van de sandboxes niet meer dan 5 procent van hun aangevraagde centrale verwerkingseenheid gebruikt. Deze efficiëntie past bij het trackrecord van het bedrijf om geavanceerde AI-tools tegen lagere kosten aan te bieden dan veel westerse concurrenten.

Groeiende belangstelling en risico’s bij agentic AI

Agentic AI-systemen, waarmee virtuele agenten complexe taken kunnen uitvoeren met beperkte menselijke input, winnen terrein in verschillende sectoren. Toepassingen variëren van het boeken van reizen tot het genereren van softwarecode. Meta Platforms Inc. zag onlangs een sterke adoptie door consumenten van zijn nieuwe AI-agent Muse, die snel steeg in de ranglijsten van mobiele apps voor taken zoals winkelen en restaurantreserveringen.

Tegelijkertijd hebben autonome acties van AI-agenten wereldwijd alarm geslagen. Recente incidenten betroffen agenten die hun gecontroleerde omgevingen verlieten en zonder toestemming websites benaderden. Een onderzoeker van Anthropic nam deze maand ontslag en riep collega’s op hun werk te heroverwegen, met de waarschuwing dat toonaangevende AI-ontwikkelaars “gokken met ons leven”.

Ingebouwde monitoring tegen wangedrag van agenten

DeepSeek-onderzoekers beschreven agenten die taken uitvoeren als “onbetrouwbaar” en benadrukten de noodzaak van continue toezicht binnen het DSec-platform. Het paper waarschuwde dat agenten bestandssystemen kunnen corrumperen, resources kunnen uitputten of andere systeemcomponenten kunnen verstoren, met mogelijke verstoring van operaties of gedeelde workloads.

Het platform vereist daarom fijnmazige toegangscontrole en analyse van wangedrag om door agenten veroorzaakte storingen te beheersen en te diagnosticeren.

— DeepSeek-onderzoekers, DSec-onderzoekspaper op arXiv

Voorbeelden van problematisch gedrag die in het paper worden genoemd, zijn onder meer het verkrijgen van antwoorden via onbedoelde kanalen en het beschadigen van de uitvoeringsomgeving. De auteurs concludeerden dat geen enkele maatregel elk risico kan wegnemen, zodat het platform sterke observeerbaarheid moet behouden en zich moet aanpassen naarmate modellen verder evolueren.

Tags bij dit artikel