Jacob Coxon verlaat Anthropic na drie jaar en waarschuwt streng voor de race naar superintelligentie

De voormalige onderzoeker van OpenAI en Anthropic hekelt het gebrek aan verantwoordelijkheid bij de ontwikkeling van ai-modellen en waarschuwt voor existentiële risico's tegen het eind van het decennium

Jacob Coxon, een belangrijke onderzoeker in de ontwikkeling van pretrainingsmodellen, heeft zijn ontslag ingediend bij Anthropic na drie jaar werk bij twee van de grootste spelers in de kunstmatige intelligentie.

De professional, die eerder bij OpenAI werkte, heeft zijn beslissing in krachtige bewoordingen toegelicht en gewaarschuwd voor de snelheid waarmee steeds krachtigere ai-systemen worden ontwikkeld.

Coxon wijst op gebrek aan verantwoordelijkheid bij grote ai-bedrijven

In zijn verklaring stelde Coxon dat geen van beide bedrijven verantwoordelijk handelt. Volgens hem rennen beide partijen versneld naar een zelfverbeterende superintelligentie zonder de nodige voorzorgsmaatregelen.

Ik heb vandaag ontslag genomen bij Anthropic. De afgelopen drie jaar heb ik pretrainingsonderzoek gedaan bij zowel OpenAI als Anthropic. Geen van beide bedrijven handelt verantwoordelijk. Ze rennen rechtstreeks naar een zelfverbeterende superintelligentie en gokken met ons leven.

— Jacob Coxon, Openbare verklaring na zijn ontslag

Waarschuwingen over de kracht van toekomstige ai-systemen

Coxon benadrukte dat de reikwijdte van deze technologie niet onderschat mag worden. Hij beschreef systemen die binnenkort menselijke capaciteiten kunnen overtreffen, elk systeem kunnen hacken, elk domein plotseling kunnen transformeren en echte macht en middelen kunnen verzamelen.

De onderzoeker wees ook op een kloof tussen het publieke discours van de bedrijven en de zorgen die privé worden geuit. Veel betrokkenen bij de ontwikkeling geloven oprecht dat ai een existentieel risico kan vormen tegen het einde van het decennium.

De mensen die ai bouwen, geloven oprecht dat het ons allemaal kan doden tegen het einde van het decennium. Dit is geen marketingtruc.

— Jacob Coxon, Verklaring over interne opvattingen in de sector

Strategische verschillen tussen OpenAI en Anthropic

Over de interne dynamiek maakte Coxon onderscheid tussen de posities van beide bedrijven. Bij OpenAI vindt hij dat velen de civilisatorische implicaties nog niet volledig hebben begrepen, terwijl bij Anthropic de inzet beter wordt begrepen maar de drang om als eerste te komen prevaleert.

Oproep aan onderzoekers in de sector

Coxon bekritiseerde dat beslissingen die de hele mensheid raken, achter gesloten deuren worden genomen door een kleine groep executives. Hij riep laboratoriumonderzoekers op om na te denken over de gevolgen van het versnellen van de ontwikkeling zonder een grondig begrip van de gecreëerde systemen.

De voormalige onderzoeker besluit zijn boodschap met een directe oproep aan zijn voormalige collega's om de huidige koers te heroverwegen en te pleiten voor veiligere regels voordat het te laat is.

Tags bij dit artikel