Bestuurders van toonaangevende kunstmatige-intelligentiebedrijven zullen volgende week verschijnen voor leden van de New York City Council nu de zorgen over onvoldoende waarborgen voor de technologie toenemen. De hoorzitting op 5 oktober zal zich richten op risico's voor inwoners en mogelijke wetgevende reacties.
OpenAI, Anthropic en Alphabet Inc.’s Google bevestigden dat senior leidinggevenden de sessie zullen bijwonen. Meta Platforms Inc. had al toegezegd een bestuurder te sturen voordat de raad formele waarschuwingen over dagvaardingen uitvaardigde. De AI-divisie van SpaceX ontving een dagvaarding nadat het niet reageerde op de eerste uitnodiging.
De voltallige raad van 51 leden krijgt de kans de vertegenwoordigers te ondervragen over veiligheidsmaatregelen voor snel ontwikkelende AI-systemen en bredere reguleringsstrategieën. Raadsvoorzitter Julie Menin benadrukte de aanzienlijke lokale aanwezigheid van de bedrijven en de noodzaak van publieke verantwoording.
Menin heeft een reeks wetsvoorstellen ingediend om het toezicht te versterken. De maatregelen omvatten financiële beloningen voor klokkenluiders die overtredingen melden en het recht voor individuen die schade ondervinden van AI-tools om in specifieke gevallen juridische stappen te ondernemen tegen ontwikkelaars. Extra eisen zouden onafhankelijke audits verplicht stellen voor AI-systemen die in de stad worden gebruikt en de installatie van door mensen bediende noodstops.
De publieke onrust is toegenomen na herhaalde waarschuwingen van AI-experts over existentiële risico's. Voormalig Anthropic-onderzoeker Jacob Coxon nam onlangs ontslag en waarschuwde dat ongecontroleerde ontwikkeling binnen tien jaar tot catastrofale uitkomsten kan leiden.
Deze bedrijven hebben een aanzienlijke aanwezigheid in New York City en bieden gezamenlijk werk aan tienduizenden New Yorkers. Gezien de hoge inzet zijn deze bedrijven het hun werknemers en vooral het publiek verplicht om voor de Raad te verschijnen, onze vragen te beantwoorden en onder ede input te geven over onze voorgestelde wetgeving.