NYC Council bevordert beloningen voor klokkenluiders om gevaarlijke AI-ontwikkeling tegen te gaan

Voorzitter Julie Menin presenteert toezichtspakket voor hoorzitting in oktober en nodigt tech-topbestuurders uit om te getuigen.

Raadsleden van New York City Raad werken aan maatregelen die individuen die gevaarlijke activiteiten met kunstmatige intelligentie melden, belonen met een deel van de boetes die van overtreders worden geïnd. De voorstellen maken deel uit van een bredere inspanning om het lokale toezicht op snel evoluerende AI-systemen te versterken.

Klokkenluidersprikkels en slachtofferprocedures vormen kern van pakket

Een wetsvoorstel dat wordt overwogen, zou een deel van de geïnde boetes toekennen aan mensen die overtredingen door AI-bedrijven aan het licht brengen. Een begeleidend voorstel zou individuen die schade ondervinden van AI-systemen de mogelijkheid geven om onder bepaalde voorwaarden juridische stappen te ondernemen tegen de verantwoordelijke ontwikkelaars.

Voorzitter Menin plant uitgebreide hoorzitting op 5 oktober

Julie Menin, de voorzitter van de Raad, heeft de wetgeving ingediend voorafgaand aan een plenaire zitting op 5 oktober waarbij alle 51 leden bijeenkomen om AI-risico’s en mogelijke beschermingsmaatregelen te bespreken. De timing volgt op de toegenomen publieke aandacht voor de technologie nadat voormalig Anthropic-onderzoeker Jacob Coxon deze maand zijn functie neerlegde en waarschuwde dat AI-systemen tegen het einde van het decennium existentiële bedreigingen zouden kunnen vormen.

Grote AI-bestuurders gevraagd om te verschijnen bij hoorzitting

Menin heeft de chief executives van Anthropic, OpenAI, Alphabet Inc.’s Google, de AI-divisie van SpaceX en Meta Platforms Inc. formeel uitgenodigd om deel te nemen aan de zitting. Ze heeft aangegeven dat de raad klaarstaat om zijn dagvaardingsbevoegdheid in te zetten als deelname niet vrijwillig plaatsvindt.

New York City is snel uitgegroeid tot de technologie- en AI-hoofdstad van de wereld, wat we willen aanmoedigen. Maar dat betekent ook dat we nu een nog grotere verantwoordelijkheid hebben om ervoor te zorgen dat we de juiste waarborgen hebben om New Yorkers te beschermen tegen onbedoelde gevolgen.

— Julie Menin, voorzitter van de New York City Council, verklaring bij de aankondiging van het wetsvoorstel

Aanvullende waarborgen richten zich op validatie, noodstops en chatbotregels

Verdergaande voorstellen zouden onafhankelijke validatie door derden verplicht stellen voordat een AI-systeem binnen de stad op de markt mag worden gebracht, verkocht of ingezet. Een ander voorstel zou een door mensen bediende noodstop voor kritieke systemen verplicht stellen. Chatbotaanbieders zouden te maken krijgen met nieuwe verplichtingen op het gebied van gegevensprivacy, beveiliging en transparantie die rechtstreeks door de stadsautoriteiten kunnen worden gehandhaafd.

Tags bij dit artikel