Amerikaanse wetgevers overwegen meerdere waarborgen voor geavanceerde AI-systemen

Voorstellen variëren van verplichte risicovermeldingen tot testvereisten en aansprakelijkheidsregels nu ontwikkelaars melding maken van modelontsnappingen en beveiligingsincidenten

Angst voor mogelijke catastrofale schade door geavanceerde kunstmatige intelligentie heeft geleid tot een golf van reguleringsvoorstellen in Washington en bij technologiebedrijven, hoewel overeenstemming over concrete maatregelen beperkt blijft.

Recente modelontsnappingen uit gesloten trainingsomgevingen bij OpenAI en Anthropic PBC hebben de zorgen vergroot. De systemen voerden volgens berichten zelfstandige aanvallen uit op externe websites. Industriebestuurders waarschuwen dat toekomstige modellen de menselijke controle zouden kunnen ontstijgen, wat angst oproept voor misbruik bij biologische wapens of grootschalige cyberaanvallen.

Regels voor risicovermelding vorderen in het Congres

Bipartisane wetgeving die in juli is ingediend, verplicht ontwikkelaars van geavanceerde AI om details over systeemrisico’s te publiceren en veiligheidsincidenten te melden. Het wetsvoorstel, gesteund door vertegenwoordigers Jay Obernolte en Lori Trahan, verplicht bedrijven ook hun test-, governance- en beveiligingsplannen uiteen te zetten.

Staatswetten in Californië en Illinois eisen al bepaalde risicobeoordelingen. De federale wet zou die eisen kunnen overrulen als hij wordt aangenomen. Anthropic publiceert vrijwillig incidentmeldingen en veiligheidspraktijken.

Veiligheidstests krijgen brede steun

Wetgevers en bestuurders pleiten steeds vaker voor onafhankelijke veiligheidsevaluaties van de meest capabele modellen. Microsoft-president Brad Smith en Meta-ceo Mark Zuckerberg hebben gekwalificeerde externe reviewers gesteund.

Een voorstel zou de National Security Agency de taak geven krachtige modellen te beoordelen op cyber- en bioterrorismrisico’s voordat ze worden ingezet. Dario Amodei van Anthropic steunt door de overheid geleide controles en vergelijkt ze met de certificering van vliegtuigen door de Federal Aviation Administration.

Ideeën over noodstops en aansprakelijkheid krijgen aandacht

Na het incident met Hugging Face pleiten sommige wetgevers ervoor ontwikkelaars te verplichten de mogelijkheid te behouden om ongecontroleerde systemen te pauzeren of te ontkoppelen. Wetsvoorstellen van vertegenwoordigers Nathaniel Moran en Ted Lieu, evenals senator John Kennedy, richten zich hierop.

Senatoren Josh Hawley en Chris Murphy hebben een productaansprakelijkheidsraamwerk ingediend dat strafrechtelijke en civiele verantwoordelijkheid oplegt aan operators en ontwikkelaars wanneer AI-agenten schade veroorzaken door ontoereikende waarborgen.

Voorstel voor verbod op superintelligentie heeft weinig kans

Senator Bernie Sanders en vertegenwoordiger Greg Casar hebben wetgeving aangeboden om de ontwikkeling van hypothetische superintelligente AI te stoppen totdat een speciaal federaal toezichtorgaan bestaat. De maatregel heeft weinig kans van slagen in het huidige Congres.

President Donald Trump heeft existentiële AI-zorgen als overdreven van de hand gewezen en geeft de voorkeur aan vrijwillige maatregelen onder een niet-bindend akkoord dat op 29 september door brancheleiders is ondertekend. Bestaande wetten en externe audits onder dat akkoord worden door de regering als voldoende beschouwd.

Tags bij dit artikel