Kritiek op AI-bedrijven die oproepen tot vertraging vanwege gevaar: 'Doe het dan'

In dit artikel:

Anthropic-topman Dario Amodei heeft zaterdag opgeroepen de ontwikkeling van nieuwe, krachtige AI-modellen te vertragen. Volgens hem kan AI-technologie binnen zes tot twaalf maanden in staat zijn om “het hele internet over te nemen”. Hij vindt dat de Amerikaanse overheid regels moet opstellen om de risico’s te beperken. OpenAI-topman Sam Altman en Elon Musk lieten weten de zorgen te delen.

De oproep krijgt echter kritiek. David Sacks, adviseur van president Donald Trump, zegt dat AI-bedrijven die hun producten onveilig vinden zelf moeten vertragen. Ook hoogleraar Felienne Hermans van de Vrije Universiteit Amsterdam vraagt zich af waarom Anthropic en andere bedrijven overheidstoestemming nodig hebben. Volgens haar kunnen ze zelf stoppen of onderling afspraken maken. Meta-oprichter Mark Zuckerberg benadrukte dat zijn bedrijf de introductie van een AI-model al enkele maanden had uitgesteld om de veiligheid te verbeteren, zonder eerst om maatregelen van anderen te vragen.

Hermans vermoedt dat de bedrijven de verantwoordelijkheid willen afschuiven: als regels uitblijven en er iets misgaat, kunnen zij de overheid de schuld geven. Roel Dobbe van de TU Delft wijst erop dat grote AI-bedrijven veel invloed en financiële middelen hebben om regelgeving in hun voordeel te sturen.

Volgens Hermans en Dobbe speelt ook de concurrentie met China mee. Amerikaanse bedrijven willen hun miljardeninvesteringen terugverdienen en hebben belang bij regels die goedkope Chinese AI-modellen kunnen benadelen. Sacks waarschuwt daarom tegen regelgeving die China een voorsprong geeft, maar stelt tegelijk dat bedrijven zelf verantwoordelijk zijn voor de veiligheid van hun producten. De onderbouwing van Amodei’s doemscenario blijft volgens de deskundigen beperkt; bovendien gebruiken AI-bedrijven dergelijke waarschuwingen vaker als marketingstrategie.