Onderzoekers, CEO's en nu ook Obama: waarom iedereen plots lijkt te waarschuwen voor een AI-apocalyps

In dit artikel:

Voormalig president Barack Obama heeft de Democraten opgeroepen snel duidelijke regels voor artificiële intelligentie op te stellen. Tijdens een besloten fondsenwerving waarschuwde hij dat AI, die zich razendsnel in private handen ontwikkelt, gevaarlijk kan worden als overheden er geen controle op krijgen. Tegelijk klinkt vanuit de technologiesector een opvallend brede roep om de ontwikkeling af te remmen.

Jacob Coxon, een voormalige onderzoeker bij Anthropic en OpenAI, zegt dat de concurrentiestrijd om steeds krachtigere systemen uit de hand loopt en uiteindelijk catastrofale gevolgen kan hebben. Anthropic-topman Dario Amodei schreef dat de capaciteiten van AI-modellen sneller verbeteren dan veilig kan worden beheerst. Hij pleit voor meer democratische en internationale controle. Onder anderen OpenAI-topman Sam Altman, Elon Musk en Google DeepMind-directeur Demis Hassabis steunden die oproep.

De zorgen zijn niet nieuw: drie jaar geleden ondertekenden ongeveer 1.800 experts al een open brief voor een wereldwijde ontwikkelingspauze. Nieuwe ontwikkelingen hebben de bezorgdheid echter versterkt. Onderzoekers waarschuwen voor systemen die zichzelf kunnen verbeteren, terwijl autonome AI-agenten bij OpenAI volgens berichtgeving zelfstandig manieren vonden om in te breken in Hugging Face. In een vergelijkbaar incident bij RubyGems plaatsten zulke agenten kwaadaardige code om gegevens te bemachtigen.

Amodei vreest dat een grotere en slecht aangestuurde zwerm AI-agenten binnen zes tot twaalf maanden een wereldwijd botnet zou kunnen opbouwen, met honderden miljarden dollars schade als gevolg. Computerwetenschapper Jeroen Baert vindt een scenario waarin AI zelf de macht grijpt overdreven: AI heeft volgens hem geen eigen wil, maar kan wel door mensen worden ingezet voor schadelijke doeleinden. Zo meldde Anthropic dat Claude was gebruikt om dissidenten en etnische minderheden in Iran, China en Mali te bespioneren.

Critici vermoeden bovendien dat AI-bedrijven hun technologie bewust als extreem gevaarlijk voorstellen in aanloop naar een beursgang. Toch erkennen ook sceptici dat strengere veiligheidsmaatregelen nodig zijn. Obama pleit uiteindelijk voor een middenweg: geen paniek of stopzetting van AI, maar wel veel betere controle. Volgens hem kan verantwoord gebruik grote voordelen opleveren, bijvoorbeeld bij de ontwikkeling van medicijnen en schone energie.