Anthropic-medewerkers luiden de noodklok over AI-uitsterving te midden van financieringsdruk

Ingenieurs beweren dat er meer dan tien procent kans is op menselijke uitroeiing tegen 2030, wat vragen oproept over de motieven achter de waarschuwingen.

Leiders bij Anthropic hebben publiekelijk verklaard dat kunstmatige intelligentie een ernstig risico vormt om de mensheid binnen de komende tien jaar uit te wissen. De verklaringen komen van ingenieurs die werken aan de systemen van het bedrijf en volgen een patroon van soortgelijke waarschuwingen van andere AI-bedrijven.

Publieke waarschuwingen verspreiden zich op sociale media

AI-onderzoeker Jacob Coxon plaatste op X dat de mensen die deze systemen ontwikkelen oprecht geloven dat AI het menselijk leven tegen het einde van het decennium kan beëindigen. Hij benadrukte dat de uitspraak niet bedoeld was als promotie.

Evan Hubinger, die de titel Alignment Science Lead draagt bij Anthropic, deelde de post en voegde zijn eigen beoordeling toe. Hij schreef dat hij gelooft dat de kans groter is dan tien procent en dat het bedrijf geen duidelijke oplossing heeft voor het beheersen van risico's van geavanceerde systemen.

Scepsis over werkelijke capaciteiten

Huidige AI-tools functioneren voornamelijk als geavanceerde patroonherkenningssystemen die getraind zijn op enorme hoeveelheden bestaande tekst en data. Ze produceren vaak onjuiste antwoorden en vereisen menselijke correctie, wat ver onder een onafhankelijke of superieure vorm van intelligentie ligt.

Critici stellen dat herhaalde voorspellingen van toekomstige gevaren afleiden van de werkelijke prestaties van de technologie vandaag. De systemen kunnen individuen beïnvloeden via gebrekkig advies, maar er is geen bewijs dat ze zonder toezicht opereren of verborgen doelen nastreven.

Investeringsdruk vormt het narratief

Grote AI-ontwikkelaars besteden jaarlijks miljarden dollars aan ontwikkeling en infrastructuur. Het in stand houden van dat uitgavenniveau vereist voortdurende steun van investeerders, die aangemoedigd kan worden door de technologie zowel revolutionair als gevaarlijk te presenteren.

Aankondigingen over mogelijke risico's verschijnen vaak tegelijk met nieuwe modelreleases. Deze timing leidt ertoe dat sommige waarnemers de uitspraken zien als onderdeel van een bredere inspanning om interesse en financiering te behouden.

Oproep tot strengere controle van claims

Nieuwsorganisaties zijn opgeroepen om deze beweringen nauwkeuriger te onderzoeken in plaats van ze te herhalen zonder ondersteunende voorbeelden. Verwijzingen naar aankomende doorbraken in onderzoek of beveiliging bevatten zelden concrete demonstraties van eerdere prestaties.

Vergelijkbare boodschappen zijn afkomstig van andere bedrijven, waaronder OpenAI. Ze beschrijven groeiende capaciteiten op gebieden zoals computerbediening en samenwerking, maar laten specifieke voltooide projecten of meetbare resultaten achterwege.

Ze kunnen computers en grafische interfaces bedienen, samenwerken met mensen en elkaar, en onderzoeksprojecten uitvoeren. Ze veranderen ook het landschap van computerbeveiliging en vormen daarmee duidelijke nieuwe gevaren.

— Jakob Pachocki, chief scientist van OpenAI, Recente publieke uitspraak over AI-capaciteiten

Tags bij dit artikel