- Wereld
- Buitenland
- Binnenland
- Sport nieuws
    - Voetbal nieuws
    - Formule 1 nieuws
    - Wielrennen
    - Ajax nieuws
    - Feyenoord nieuws
    - PSV nieuws
- Economie
- Wetenschap
- Showbiz/Media
- Computer nieuws
- Gaming nieuws
    - PS4 nieuws
    - Xbox One nieuws
- Hardware nieuws

Voorstel geeft federale ambtenaren de bevoegdheid om releases van risicovolle modellen te blokkeren en schrijft publieke tests en onafhankelijke audits voor.

Anthropic PBC heeft een conceptwet ingediend bij federale wetgevers met nieuwe regels voor de veiligheid en beveiliging van kunstmatige intelligentie. De stap komt op een moment dat de zorgen over de snelle ontwikkeling van de technologie en mogelijke schade toenemen.

Overheidsbevoegdheid om gevaarlijke uitrol te stoppen

Volgens het plan zouden ambtenaren een ai-model kunnen tegenhouden als het een acuut risico vormt van het doden of verwonden van meer dan vijftig mensen of van meer dan een miljard dollar schade. De risico’s zouden voortvloeien uit het model dat helpt bij het maken of vrijgeven van een biologisch wapen, het ontsnappen aan menselijk toezicht of het mogelijk maken van een grootschalige cyberaanval, blijkt uit details die Politico als eerste meldde.

Verplichte tests en onafhankelijke beoordelingen

De wetgeving zou ai-bedrijven verplichten tests uit te voeren op hun modellen en de resultaten openbaar te maken. Bedrijven zouden ook regelmatige onderzoeken door externe beoordelaars moeten toestaan.

Dit wetsvoorstel vertegenwoordigt de voorstellen uit Anthropic’s Advanced AI Framework, waarvoor we sinds juni pleiten bij federale en statelijke wetgevers.

Ons voorstel geeft de federale overheid ook de mogelijkheid om gevaarlijke uitrol van de krachtigste modellen te blokkeren of af te remmen. Dit zijn verstandige maatregelen waarnaar het Congres volgens ons zou moeten handelen.

Breedere context rond ai-risico’s en beleidsreactie

Het bedrijf wilde niet ingaan op de vraag hoe breed het voorstel is gedeeld of welke feedback tot nu toe is ontvangen. Recente incidenten met ai-ondersteunde inbraken en hacks hebben de angst voor ernstige gevolgen vergroot en roepen om sterkere bescherming vanuit zowel Washington als de technologiesector.

De Trump-regering heeft verzoeken om uitgebreider toezicht op de technologie tot nu toe afgewezen.