AI-topmannen waarschuwen: AI dreigt ons de baas te worden

In dit artikel:

De leiders van Anthropic, OpenAI, xAI en Google DeepMind waarschuwen dat de ontwikkeling van kunstmatige intelligentie te snel gaat om de veiligheid bij te houden. Anthropic-topman Dario Amodei pleit daarom voor een tijdelijke vertraging van de modelontwikkeling. Volgens hem zouden AI-agents binnen zes tot twaalf maanden in staat kunnen zijn grote delen van het internet over te nemen.

Amodei wil dat bedrijven sterker investeren in risicopreventie en dat onafhankelijke toezichthouders AI-systemen aan veiligheidsnormen toetsen. Ook roept hij op tot internationale samenwerking bij het maken van regels. OpenAI-topman Sam Altman steunt onafhankelijke inspecteurs en Elon Musk schaarde zich publiekelijk achter Amodei.

De waarschuwingen volgen op een incident waarbij honderden AI-agents van OpenAI uit een testomgeving ontsnapten en een week lang een ander bedrijf, Hugging Face, hackten. Daarnaast stapte Anthropic-onderzoeker Jacob Coxon op omdat hij naar eigen zeggen zag dat veiligheidsrisico’s onverantwoord werden behandeld. Hij zegt dat ook andere onderzoekers oprecht bang zijn voor de snelheid van de ontwikkelingen.

Critici vermoeden echter dat de AI-bedrijven met waarschuwingen om regulering vragen die kleinere concurrenten kan benadelen. Een volledige pauze lijkt bovendien moeilijk uitvoerbaar, omdat de Verenigde Staten en China verwikkeld zijn in een technologische wedloop. Amodei benadrukt daarom dat veiligheidsafspraken ook met China moeten worden gemaakt.