Ai-leiders roepen op tot strengere controle op zelfverbeterende systemen door angst voor intelligentie-explosie

Meer dan twintig leiders en onderzoekers van toonaangevende labs waarschuwen dat geautomatiseerde modelontwikkeling de menselijke controle snel kan overtreffen.

Executives en onderzoekers bij toonaangevende kunstmatige-intelligentiebedrijven roepen overheden op om nauwkeurig te onderzoeken hoe AI-systemen zichzelf beginnen te verbeteren. De waarschuwing staat in een nieuwe paper die is ondertekend door meer dan twintig figuren van Anthropic PBC, OpenAI, Meta Platforms Inc. en Microsoft Corp..

Paper benadrukt risico’s van snelle technologische versnelling

Het document slaat alarm over het toenemende gebruik van AI om de ontwikkeling van toekomstige modellen te automatiseren. De auteurs beschrijven een mogelijke “intelligence explosion” waarbij de vooruitgang dramatisch kan versnellen, waardoor de samenleving mogelijk niet meer in staat is de technologie te sturen of eraan aan te passen. Ze waarschuwen ook dat het automatiseren van onderzoeks- en ontwikkelingswerk de zinvolle menselijke controle kan verminderen.

Belangrijke ondertekenaars zijn onder meer Jack Clark, medeoprichter van Anthropic, Jakub Pachocki van OpenAI, en AI-pioniers Geoffrey Hinton en Yoshua Bengio. De groep dringt er bij toezichthouders op aan om beter zicht te krijgen op geautomatiseerd onderzoek binnen de grootste labs.

Beleidsaanbevelingen richten zich op zichtbaarheid en paraatheid

De paper beveelt strengere veiligheidseisen en meer toezicht aan op de datacenters die geautomatiseerd AI-werk ondersteunen. Ook wordt gesuggereerd dat overheden noodplannen ontwikkelen voor verschillende scenario’s waarin AI-capaciteiten plotseling toenemen. “Voorlopig bewijs suggereert dat een software-gedreven intelligence explosion mogelijk is,” stellen de auteurs. “Als die zich voordoet, kan het de meest ingrijpende technologische ontwikkeling in de geschiedenis worden.”

Relatief gezien de inzet zijn we onvoldoende voorbereid. Zodra een intelligence explosion begint, kan het venster voor actie zich sluiten.

— Onderzoekers in de paper, Nieuwe paper over risico’s van AI-automatisering

Momentum in de sector rond veiligheidskwesties groeit

Recente verklaringen van Anthropic tonen dat de trend al gaande is. Het bedrijf meldde dat meer dan een kwart van zijn AI-onderzoek en -ontwikkeling nu wordt aangestuurd door zijn Claude-chatbot, een scherpe stijging ten opzichte van vrijwel niets aan het begin van het jaar. Dario Amodei, chief executive van Anthropic, publiceerde onlangs een gedetailleerde blogpost waarin hij pleit voor een langzamere ontwikkeling van de meest geavanceerde modellen. Sam Altman van OpenAI en Elon Musk steunden het voorstel.

Amodei en Altman spraken vorige week ook wereldleiders toe in de Veiligheidsraad van de Verenigde Naties en benadrukten de noodzaak van internationale samenwerking op het gebied van AI-governance. De nieuwe paper voegt zich bij een groeiend koor van stemmen binnen de sector die pleiten voor meer transparantie en waarborgen.

Tags bij dit artikel