Raadsleden van New York City krijgen getuigenissen van executives van OpenAI, Google en Meta over AI-risico's

Raadsvoorzitter Julie Menin waarschuwt bedrijven voor dagvaardingen voorafgaand aan hoorzitting op 5 oktober over waarborgen en nieuwe toezichtswetgeving.

Leidinggevenden van toonaangevende ontwikkelaars van kunstmatige intelligentie zullen op 5 oktober verschijnen voor raadsleden van New York City tijdens een hoorzitting over het ontbreken van sterke regelgevende bescherming voor de snel evoluerende technologie.

OpenAI, Anthropic en Alphabet Inc.’s Google hebben bevestigd dat senior leidinggevenden de sessie zullen bijwonen na waarschuwingen dat ze dagvaardingen zouden kunnen krijgen, aldus het kantoor van raadsvoorzitter Julie Menin. Meta Platforms Inc. had al toegezegd een topman te sturen voordat de andere bedrijven die waarschuwingen ontvingen.

Bedrijven reageren op oproep van de raad

OpenAI weigerde commentaar te geven op de aankomende verschijning. Anthropic, Google en Meta reageerden niet direct op verzoeken om commentaar. De raad heeft ook een dagvaarding gestuurd naar de AI-divisie van SpaceX nadat die een eerste uitnodiging niet had beantwoord.

Alle 51 raadsleden krijgen de kans de executives te ondervragen over veiligheidsmaatregelen voor geavanceerde AI-systemen en de mogelijke gevaren voor stadsbewoners. De raadsleden willen ook input over mogelijke wetgevende strategieën om de technologie te reguleren.

Menin presenteert pakket AI-toezichtswetten

Voorzitter Menin heeft een reeks maatregelen ingediend om de verantwoordelijkheid te vergroten. De voorstellen omvatten financiële beloningen voor klokkenluiders die overtredingen aan het licht brengen en het recht voor individuen die schade ondervinden van AI-tools om in bepaalde gevallen juridische stappen te ondernemen tegen ontwikkelaars. Een ander wetsvoorstel verplicht onafhankelijke audits voor AI-systemen die in de stad worden gebruikt en vereist een door mensen bediende noodstopfunctie.

Deze bedrijven hebben een aanzienlijke aanwezigheid in New York City en bieden gezamenlijk werk aan tienduizenden New Yorkers. Gezien de hoge inzet zijn deze bedrijven het hun werknemers en vooral het publiek verplicht om voor de raad te verschijnen, onze vragen te beantwoorden en input te geven over onze voorgestelde wetgeving onder ede.

— Julie Menin, voorzitter van de New York City Council, Verklaring van Menins kantoor

Groeiende waarschuwingen voeden roep om regulering

Publieke en industriële zorgen over AI zijn toegenomen na meerdere prominente waarschuwingen over de snelheid van ontwikkeling. Voormalig Anthropic-onderzoeker Jacob Coxon trad onlangs af en stelde dat AI “ons allemaal tegen het einde van het decennium zou kunnen doden”. De raad heeft ook getuigenis geregeld van specialisten op het gebied van AI-veiligheid, technologiebeleid en consumentenbescherming.

Tags bij dit artikel