Ai-ontwikkelingsrace versnelt ondanks veiligheidswaarschuwingen van brancheleiders

Anthropic, OpenAI en rivalen brengen nieuwe modellen uit terwijl zelfregulering onder zware concurrentiedruk staat

De drang om krachtigere kunstmatige intelligentiesystemen te creëren vertoont geen tekenen van afname. Toonaangevende bedrijven blijven geavanceerde modellen lanceren, ook nadat topbestuurders opriepen tot een tijdelijke pauze om mogelijke risico’s aan te pakken.

Half september trokken de leiders van Anthropic en OpenAI veel aandacht met hun oproepen om de ontwikkeling van frontier-modellen te vertragen. Een maand later is het tempo weer opgevoerd.

Nieuwe modellen van meerdere koplopers

Anthropic introduceerde een nieuwe modellenfamilie in de weken voorafgaand aan de verwachte beursgang. Meta keerde terug in de schijnwerpers met de competitieve Muse Wonder-release. Google presenteerde een vlaggenschipsysteem dat toonaangevende benchmarks van concurrenten evenaart. Deze stappen onderstrepen de commerciële belangen die gemoeid zijn met het voorop blijven lopen.

Zelfregulering blijkt moeilijk onder marktdruk

Branchewaarnemers merken op dat vrijwillige terughoudendheid niet heeft geleid tot brede veranderingen. Page Hedley, voormalig OpenAI-medewerker en nu hoofd van Guidelight AI Standards, zei dat veiligheidskwesties vaker worden besproken, maar dat de ontwikkelingssnelheid onveranderd blijft.

Voorstellen die tijdens een recente conferentie in Berkeley werden besproken, omvatten het zwaar verschuiven van rekenkracht naar veiligheidswerk en het creëren van mechanismen om risicovolle systemen te stoppen. Experts erkenden dat elk bedrijf dat dergelijke stappen zet, het risico loopt achterop te raken bij concurrenten.

Voormalige medewerkers beschrijven drukke markt en veiligheidskloven

David Robinson, die na drie jaar OpenAI verliet, zei dat het bedrijf ooit een duidelijke voorsprong had, maar nu te maken heeft met veel capabele rivalen. Hij pleitte voor het aannemen van specialisten uit de nucleaire en luchtvaartsector om veiligheidpraktijken te versterken, omdat de huidige normen achterblijven bij die sectoren.

Externe beoordelingsprocessen onder de loep

Zowel Anthropic als OpenAI hebben externe evaluators ingeschakeld. Anthropic verleende METR-medewerkers onlangs fysieke toegang en toolrechten. Vragen blijven bestaan over de onafhankelijkheid van reviewers en de diepgang van gedeelde informatie.

OpenAI ontsloeg drie veiligheidsmedewerkers nadat een onderzoek uitwees dat zij gevoelige details hadden gedeeld met een externe groep. De voormalige medewerkers uitten hun bezorgdheid dat de maatregel open veiligheidskwesties zou ontmoedigen.

Voorspellingen wijzen op aanhoudende snelle vooruitgang

Daniel Kokotajlo, voormalig OpenAI-onderzoeker en directeur van het AI Futures Project, voorspelde dat bedrijven de frontier-ontwikkeling niet zullen vertragen. Hij hoopte dat zijn voorspelling onjuist blijkt.