Voormalig Anthropic-onderzoeker Jacob Coxon getuigt over AI-risico's bij hoorzitting New Yorkse raad

Ex-werknemer die het bedrijf beschuldigde van gokken met levens voegt zich bij andere critici en grote AI-bedrijven voor stadsbestuurders die nieuwe waarborgen overwegen

Voormalig Anthropic-onderzoeker Jacob Coxon staat maandag gepland om te getuigen tijdens een hoorzitting van de New Yorkse stadsraad over toezicht op kunstmatige intelligentie. Coxon, die onlangs het bedrijf verliet en publiekelijk waarschuwde dat AI-ontwikkeling existentiële risico's met zich meebrengt, verschijnt samen met vertegenwoordigers van verschillende toonaangevende AI-bedrijven.

Raadsvoorzitter dringt aan op getuigenis klokkenluiders

Raadsvoorzitter Julie Menin heeft Coxons verschijning gevraagd terwijl wetgevers een reeks wetsvoorstellen beoordelen die waarborgen voor AI-technologie moeten creëren. De zitting brengt prominente industriecritici samen met beleidsfunctionarissen van OpenAI, Anthropic, Alphabets Google en Meta Platforms.

Coxon nam vorige maand ontslag bij Anthropic en beschuldigde zowel zijn voormalige werkgever als OpenAI van het nemen van gevaarlijke risico's in de jacht op geavanceerdere systemen. Hij noemde de aanpak "gokken met ons leven" en heeft bevestigd dat hij van plan is te spreken tijdens de hoorzitting.

Extra critici en bedrijfsvertegenwoordigers verschijnen

Andere verwachte getuigen zijn voormalig Google DeepMind-onderzoeker Alex Turner en Daniel Kokotajlo, directeur van het AI Futures Project en voormalig OpenAI-onderzoeker. De vier grote bedrijven sturen beleids- en veiligheidsfunctionarissen naar de zitting.

Turner heeft zijn aanwezigheid bevestigd. Google wilde geen commentaar geven op de hoorzitting, terwijl Kokotajlo en enkele bedrijven niet reageerden op verzoeken om commentaar.

New York zoekt grotere rol in AI-toezicht

De hoorzitting maakt deel uit van een bredere poging van stadsfunctionarissen om invloed uit te oefenen op de regulering van een industrie die snel is gegroeid in New York, ook al ligt veel regelgevende bevoegdheid nog steeds op federaal en statelijk niveau.

Een wetsvoorstel van Menin zou een deel van de boetes die van AI-bedrijven worden geïnd, toewijzen aan klokkenluiders die overtredingen melden. Andere voorstellen zouden individuen die schade ondervinden van AI-systemen in staat stellen juridische stappen te ondernemen tegen ontwikkelaars en onafhankelijke validatie van bepaalde AI-tools vereisen voordat ze in de stad worden ingezet.

OpenAI, Anthropic en Google stemden ermee in deel te nemen nadat Menins kantoor aangaf dat ze met dagvaardingen te maken konden krijgen. Meta had zich al gecommitteerd aan deelname, terwijl de raad een dagvaarding heeft uitgevaardigd aan de kunstmatige-intelligentie-eenheid van SpaceX nadat die niet reageerde op eerdere verzoeken.

Tags bij dit artikel