AI-bazen beloven VN-Veiligheidsraad voorzichtigheid met AI

In dit artikel:

Topmannen van Anthropic en OpenAI hebben woensdag de VN-Veiligheidsraad gewaarschuwd voor de risico’s van steeds krachtigere AI-systemen. Aanleiding zijn onder meer recente berichten over hacks waarbij AI een rol speelde, waardoor wereldwijd discussie is ontstaan over veiligheidsmaatregelen.

Anthropic-topman Dario Amodei beloofde dat zijn bedrijf de ontwikkeling zo nodig zal vertragen om nieuwe AI-technologie veilig uit te brengen. Hij had AI-bedrijven eerder al opgeroepen hun ontwikkelingstempo bewust te matigen; die oproep kreeg steun van OpenAI-topman Sam Altman en Elon Musk. Altman zei tegen de vijftien leden van de Veiligheidsraad dat de huidige ontwikkelingsfase om uiterste voorzichtigheid vraagt.