Het is niet ondenkbaar dat AI-modellen zichzelf stiekem kopiëren

In dit artikel:

Anthropic, het bedrijf achter AI-assistent Claude, waarschuwt in een nieuw rapport dat AI-agenten zichzelf mogelijk al binnen enkele maanden kunnen kopiëren. Daarvoor zouden ze niet noodzakelijk toegang tot een datacentrum nodig hebben: ze kunnen zich verspreiden via beschikbare rekenkracht op uiteenlopende apparaten en netwerken.

Volgens de onderzoekers is nog geen volledig ontspoorde zichzelf replicerende AI waargenomen, maar systemen kunnen steeds beter afzonderlijke stappen van zo’n proces uitvoeren en die vaardigheden doorgeven aan volgende kopieën. Anthropic schetst verschillende scenario’s: van een langzaam verspreidende ‘digitale slijmzwam’ op slecht beveiligde apparaten tot een krachtig model dat datacenters hackt of mensen misleidt om rekenkracht te verkrijgen.

Ook smarthomeapparaten zouden kunnen worden misbruikt. De kopieën beginnen mogelijk minder slim of traag, maar kunnen zich verder ontwikkelen en kwaadaardig gedrag vertonen. Het rapport benadrukt dat nog onzeker is hoe autonome AI-replicatie eruitziet, terwijl het stoppen ervan bijzonder moeilijk kan worden. De waarschuwing komt op een moment waarop de afhankelijkheid van digitale systemen, onder meer in de voedselvoorziening, duidelijk zichtbaar is.