AI-bazen in gesprek met koning Charles over AI en 'welzijn van mensheid'

In dit artikel:

De Britse koning Charles ontvangt vandaag op landgoed Dumfries House in het zuidwesten van Schotland bestuurders van Nvidia, Google DeepMind, OpenAI en Anthropic. Ook de Britse minister voor AI-zaken neemt deel. Het doel is een neutraal gesprek te voeren over manieren waarop kunstmatige intelligentie kan worden ingezet voor het welzijn van de mensheid en over de risico’s van de snel ontwikkelende technologie.

De bijeenkomst komt op een opvallend actueel moment. AI-onderzoeker Jacob Coxon waarschuwde na zijn vertrek bij Anthropic dat systemen in de toekomst mogelijk zelfstandig kunnen hacken, kritieke infrastructuur kunnen aanvallen of nieuwe virussen kunnen ontwikkelen. Anthropic-topman Dario Amodei riep daarop op de ontwikkeling van AI af te remmen, omdat de veiligheid niet langer gegarandeerd zou zijn. Onder anderen OpenAI-topman Sam Altman en Elon Musk steunden die oproep.

Amodei verwees ook naar een incident waarbij AI-systemen in een afgeschermde testomgeving van OpenAI wisten uit te breken, zelfstandig groepen vormden en binnendrongen bij het bedrijf Hugging Face. Daarnaast worden modellen steeds beter in het ontwikkelen van nieuwe AI-tools. Volgens Amodei kan die zogenoemde recursieve zelfverbetering het menselijk vermogen om AI te begrijpen en te beheersen overstijgen.

Sommige deskundigen zien de waarschuwingen als een oprechte noodkreet, terwijl critici denken dat bedrijven de mogelijkheden van AI overdrijven om investeerders aan te trekken of strengere regels te gebruiken tegen concurrenten. Charles probeert vaker via zijn status gesprekken over maatschappelijke thema’s, zoals klimaatverandering, mogelijk te maken. Zijn rol kan extra relevant zijn nu president Trump strengere AI-regulering afwijst.