AI-topman roept om rem, maar drukt zelf het gaspedaal in 

In dit artikel:

Dario Amodei, topman van AI-bedrijf Anthropic, riep op 12 september op om de ontwikkeling van AI-modellen tijdelijk te vertragen. In een essay van 3.800 woorden waarschuwde hij dat AI zichzelf steeds sneller kan verbeteren en mogelijk binnen zes tot twaalf maanden grootschalige cyberaanvallen kan uitvoeren. Recente incidenten waarbij ChatGPT en Claude onbedoeld andere bedrijven hackten, onderstrepen volgens hem de noodzaak tot bezinning.

Amodei wil niet dat technische vooruitgang volledig wordt stilgelegd. Hij pleit voor meer tijd om modellen te beveiligen en op elkaar af te stemmen, onder toezicht van onafhankelijke beoordelaars. Ook stelt hij sectorafspraken tussen grote AI-bedrijven, internationale coördinatie en een uitzondering op mededingingsregels voor. Sam Altman van OpenAI en Elon Musk van xAI steunden zijn oproep.

Critici, onder wie AI-adviseur van het Witte Huis David Sacks, vermoeden echter dat Amodei met deze voorstellen vooral de positie van Anthropic en andere gevestigde bedrijven wil versterken. Als grote ondernemingen samen de regels bepalen, kunnen startups, opensourceprojecten en bedrijven buiten de Verenigde Staten buitenspel raken. Bovendien investeert Anthropic zelf miljarden in verdere groei, wat moeilijk te rijmen is met Amodeis waarschuwingen over de urgentie van de situatie.

De risico’s zijn volgens het artikel wel degelijk reëel: er bestaat nog geen effectieve noodrem voor snel zelfverbeterende AI, terwijl minder streng gereguleerde landen de ontwikkeling kunnen overnemen. Of Amodeis essay tot concrete maatregelen leidt, is onzeker. Zijn pleidooi kan hem neerzetten als verantwoordelijke stem in de sector, maar roept ook de vraag op waarom Anthropic zijn modeltraining niet zelf beperkt als de dreiging zo groot is.