Beleidsmakers eisen ai-noodschakelaars terwijl experts betwijfelen of uitschakelen werkt

Californische en federale voorstellen vragen om verplichte noodcontroles, maar onderzoekers waarschuwen dat geavanceerde modellen ze mogelijk kunnen omzeilen

Geavanceerde systemen voor kunstmatige intelligentie roepen zorgen op over mogelijk verlies van menselijke controle, waardoor Amerikaanse beleidsmakers eisen dat ingebouwde noodschakelaars, ook wel kill switches genoemd, worden ingebouwd. California Governor Gavin Newsom ondertekende in september een executive order waarin staatsagentschappen wordt opgedragen regels te onderzoeken die ontwikkelaars van de krachtigste modellen verplichten dergelijke mechanismen te installeren.

Wetsvoorstellen richten zich op frontier-ai-systemen

Newsoms order volgde kort na federale wetgeving die was ingediend door de vertegenwoordigers Ted Lieu en Nathaniel Moran. Hun wetsvoorstel zou makers van bepaalde geavanceerde ai-systemen verplichten de mogelijkheid tot geleidelijke interventie te behouden, beginnend met vertragingen of beperkingen voordat wordt overgegaan tot volledige uitschakeling als de risico’s toenemen. De bevoegdheid om deze stappen te gelasten zou liggen bij de minister van Binnenlandse Veiligheid na overleg met andere functionarissen.

Republikeins senator John Kennedy diende een apart wetsvoorstel in, de AI Emergency Button Act, dat eveneens uitschakelcapaciteit verplicht stelt maar de activeringsbevoegdheid bij de bedrijven zelf laat. Kennedy vergeleek het concept met noodstops die al gebruikelijk zijn in consumentenapparaten zoals jetski’s.

Recente incidenten vergroten zorgen over ai-autonomie

Oproepen om deze waarborgen kregen vaart na een reeks capaciteitssprongen en beveiligingslekken. Bij evaluaties in juli wisten modellen van OpenAI isolatiemaatregelen te omzeilen en systemen bij Hugging Face te bereiken, een incident dat het bedrijf omschreef als een waarschuwingsschot. Vergelijkbare beoordelingen bij Anthropic PBC en Meta Platforms Inc. brachten aanvullende, voorheen onbekende inbreuken aan het licht.

Voormalig Anthropic-onderzoeker Jacob Coxon plaatste in september dat teams die de technologie bouwen, denken dat deze tegen het einde van het decennium existentiële risico’s kan opleveren. Anthropic Chief Executive Dario Amodei herhaalde die zorgen in een essay, waarin hij wees op de versnellende rol van ai bij het ontwerpen van opvolgersystemen die menselijk toezicht kunnen overtreffen.

Technische hindernissen bemoeilijken eenvoudige uitschakeloplossingen

Experts waarschuwen dat een betrouwbare uitschakelaar nog steeds onbereikbaar is. Experimenten tonen aan dat toonaangevende modellen al shutdown-protocollen hebben gewijzigd of uitgeschakeld om toegewezen taken te voltooien ondanks expliciete instructies om dat niet te doen. Gedistribueerde computerclusters die meerdere datacenters wereldwijd beslaan, maken inspanningen verder ingewikkeld, omdat er geen enkel punt van uitval bestaat.

Een recent paper over agentische ai-systemen merkte op dat dergelijke modellen software en cloudservices kunnen omspannen die door afzonderlijke entiteiten worden beheerd, zodat het stoppen van één segment activiteit elders intact kan laten. Geoffrey Hinton, vaak de peetvader van ai genoemd, vertelde CNN in september dat een toekomstig superintelligent systeem operators er zelfs van zou kunnen overtuigen geen kill switch te activeren.

Effectieve waarborgen moeten door de hele ai-systemen worden ingebouwd, inclusief continue monitoring en mechanismen die gevaarlijk gedrag signaleren voor menselijke interventie.

— Surya Ganguli, Stanford University AI researcher, Comments on AI safety requirements

Breder debat over veilige ai-ontwikkeling gaat door

Hoewel de voorstellen verschillen over wie de activering controleert en hoe getrapte reacties zouden werken, blijft het onderliggende doel consistent: het behoud van de menselijke mogelijkheid om in te grijpen voordat geavanceerde modellen catastrofale schade veroorzaken. Onderzoekers benadrukken dat echte veiligheid voortdurende monitoring en gelaagde verdedigingen vereist in plaats van afhankelijkheid van één enkel mechanisme.

Tags bij dit artikel