AI-onderzoeker stapt op bij Anthropic vanwege risico op menselijke uitsterving

Jacob Coxon waarschuwt voor het gevaar van superhumane technologieën en CEO Dario Amodei reageert bij CNN

Jacob Coxon, een vooraanstaand onderzoeker op het gebied van kunstmatige intelligentie, heeft zijn functie bij Anthropic met onmiddellijke ingang verlaten. Zijn vertrek heeft veel media-aandacht gekregen, vooral door de redenen die hij voor deze drastische beslissing heeft gegeven.

Volgens Coxon zouden geavanceerde AI-systemen superhumane capaciteiten kunnen ontwikkelen die een einde kunnen maken aan al het menselijke leven op aarde. De oud-medewerker stelt dat de leiders van deze technologieën zich volledig bewust zijn van dat potentiële risico.

Coxon waarschuwt voor een reële dreiging voor 2030

In zijn verklaring wijst Coxon rechtstreeks naar de grote bedrijven in de sector: “De mensen die AI bouwen, geloven oprecht dat het ons allemaal kan doden tegen het einde van dit decennium”. Deze uitspraak heeft intense reacties op sociale media veroorzaakt, variërend van angst tot debat.

Dario Amodei nuanceert de uitspraken bij CNN

De CEO van Anthropic, Dario Amodei, ging in op het onderwerp in een interview met CNN. In plaats van de woorden van zijn voormalige medewerker te ontkennen, erkende Amodei dat er een kans bestaat dat er iets misgaat, hoewel hij die kans laag acht.

Amodei verduidelijkte dat Coxon niet specifiek Anthropic bekritiseerde, maar de algemene dynamiek in de industrie die te snel gaat. “Het is grappig. Ik ben het veel meer met hem eens dan oneens”, verklaarde de bestuurder.

Toen hij wegging, zei hij dat Anthropic de meest verantwoordelijke en meest betrokken speler was. Hij wijst niet naar ons, maar naar de dynamiek in de industrie die te snel gaat.

— Dario Amodei, CEO van Anthropic, Interview bij CNN

Amodei pleit voor het kiezen van de juiste paden

De CEO benadrukte het belang van het analyseren van scenario's waarin dingen goed of fout kunnen gaan. In plaats van zich te richten op percentages zoals een kans van 10 procent op falen, stelde hij voor om te denken in termen van strategische beslissingen.

Als we de verkeerde paden kiezen, is de kans groter dat dingen misgaan. Als we de juiste paden kiezen, zou de kans dat er iets misgaat heel laag zijn. We moeten ons richten op ons vermogen om het juiste pad te kiezen.

— Dario Amodei, CEO van Anthropic, Interview bij CNN

Tags bij dit artikel