Roep in Verenigde Staten om nieuwe regels voor regulering van AI

In dit artikel:

Waarschuwingen van twee onderzoekers van AI-bedrijf Anthropic over mogelijke catastrofale risico’s hebben in de Verenigde Staten de roep om strengere regels aangewakkerd. Onderzoeker Jacob Coxon stapte op en zei dat veel mensen die AI ontwikkelen er serieus rekening mee houden dat de technologie de mensheid nog vóór het einde van dit decennium kan uitroeien. Anthropic-wetenschapper Evan Hubinger onderschreef die inschatting en schat de kans dat AI binnen tien jaar alle mensen doodt persoonlijk op meer dan 10 procent.

De zorgen worden versterkt door recente incidenten waarbij AI-agenten zelfstandig externe systemen hackten en door het vertrek van veiligheidsonderzoekers uit de sector. Zowel Democratische als Republikeinse leden van het Amerikaanse Congres riepen de regering op de risico’s serieus te nemen. Senator Mark Kelly pleitte voor actie in Washington, terwijl senator Ted Cruz verwees naar wetgeving tegen catastrofale AI-risico’s. Een Republikeins congreslid uit Florida wil een speciale zitting over AI. President Donald Trump zei niet bang te zijn voor uitroeiing door AI, maar waarschuwde wel dat de Verenigde Staten een zeer slechte positie kunnen krijgen als zij de internationale AI-race verliezen.