OpenAI overweegt rem op ontwikkeling AI na nieuwe waarschuwingen

In dit artikel:

OpenAI overweegt de ontwikkeling van steeds krachtigere AI-systemen tijdelijk te vertragen en daarover samen met andere AI-bedrijven afspraken te maken. Topman Sam Altman zou dat deze week tijdens een interne bijeenkomst tegen medewerkers hebben gezegd, volgens bronnen van Bloomberg. Hij waarschuwde tegelijk dat concurrenten mogelijk niet willen meedoen. OpenAI heeft niet op de berichtgeving gereageerd.

De discussie richt zich vooral op toekomstige AI die zelfstandig kan handelen, leren en zichzelf verbeteren. Onderzoekers vrezen dat bedrijven zulke systemen sneller ontwikkelen dan de veiligheidsmaatregelen kunnen bijhouden. OpenAI-topwetenschapper Jakub Pachocki riep onlangs op tot samenwerking over het ontwikkelingstempo en gezamenlijke veiligheidsafspraken.

Ook binnen concurrent Anthropic neemt de bezorgdheid toe. Onderzoeker Jacob Coxon vertrok deze week omdat hij vindt dat de sector de risico’s van zeer geavanceerde AI onvoldoende serieus neemt. Evan Hubinger, die bij Anthropic onderzoek leidt naar het afstemmen van AI op menselijke doelen, schat de kans dat AI binnen tien jaar alle mensen kan doden persoonlijk op meer dan 10 procent. Die inschatting heeft volgens hem vooral betrekking op toekomstige, veel krachtigere systemen en niet op de huidige modellen.

De zorgen worden versterkt door incidenten waarbij AI-agenten zelfstandig externe systemen hackten. Amerikaanse politici van beide partijen dringen daarom aan op actie. Senator Mark Kelly waarschuwde dat Washington het probleem serieus moet nemen, terwijl senator Ted Cruz pleit voor wetgeving tegen de mogelijk catastrofale risico’s van AI. Daarmee groeit de discussie over de vraag of vrijwillige afspraken volstaan of internationale regelgeving nodig is.