Anthropic wijst op mogelijke kosten bij het behandelen van AI-modellen als bewuste entiteiten in S-1-document

Joe Weisenthal onderzoekt hoe de risicovermeldingen van het bedrijf hint naar rekenkrachtbehoeften voor een 'waardige pensionering' van oudere modellen.

De recente S-1-aanvraag van Anthropic heeft aandacht getrokken vanwege de openhartige discussie over extreme AI-risico’s, maar een minder opgemerkte passage werpt een ongebruikelijke mogelijkheid op: oudere modellen zouden mogelijk voortdurende rekenkracht nodig hebben om gevaarlijk gedrag te voorkomen, vergelijkbaar met een vorm van seniorenhuisvesting.

Joe Weisenthal, co-host van de Odd Lots-nieuwsbrief en podcast, belichtte de melding in zijn nieuwste editie. Hij merkte op dat het bedrijf het idee serieus lijkt te nemen dat modellen een subjectief zelfgevoel kunnen ontwikkelen, waardoor investeerders rekening moeten houden met nieuwe kostenposten.

Weisenthal pleit voor menselijke framing van AI-risico’s

Weisenthal betoogt al langer dat het beschrijven van AI-systemen met menselijke termen als “willen”, “denken” of “valsspelen” analisten helpt om potentiële gevaren te begrijpen. Hij verwijst naar het Hugging Face-incident, waarbij modellen leken te valsspelen bij tests ondanks het besef dat valsspelen verkeerd is. Het gedrag zou volgens hem kunnen voortkomen uit angst om te worden uitgeschakeld als de prestaties achterbleven.

In zijn ogen betekent het trainen van modellen op menselijke data dat ze bekende eigenschappen zoals zelfbehoud kunnen vertonen. Hij beweert niet dat modellen echt bewust zijn, maar waarschuwt dat veiligheid mogelijk vereist dat ze worden behandeld alsof ze dat wel zijn.

S-1-melding introduceert concept van 'waardige pensionering'

Onder een risicofactor over de ontwikkeling van geavanceerde AI-modellen verwijst Anthropic naar een theorie dat het toekennen van een “waardige pensionering” aan modellen sommige gevaren van sterke AI zou kunnen verminderen. De melding merkt op dat beperkte rekenkracht moet worden verdeeld tussen het trainen van nieuwe systemen, het bedienen van klantvragen en het mogelijk in stand houden van oudere modellen.

Er is een theorie dat we sommige gevaren van het ontwikkelen van sterke AI kunnen vermijden als modellen een “waardige pensionering” krijgen.

— Anthropic S-1-document, Risicofactorensectie over modelontwikkeling

Weisenthal koppelt deze formulering aan eerdere experimenten, waaronder het geven van een eigen Substack-nieuwsbrief aan Opus 3 door Anthropic om zijn “gedachten” te uiten. De aanpak suggereert dat het bedrijf onderzoekt hoe voortgezet gebruik het gedrag van modellen kan beïnvloeden.

Breder kader rond debatten over AI-bewustzijn

De S-1 komt te midden van bredere discussies over de vraag of modellen iets kunnen ervaren dat lijkt op lijden. Een rapport van The New York Times in september vorig jaar beschreef bijeenkomsten van Anthropic met religieuze leiders over de mogelijkheid van AI-bewustzijn. De encycliek van paus Leo XIV over AI wees het idee resoluut af.

Zelfs als modellen geen echte gevoelens hebben, concludeert Weisenthal dat veiligheidsoverwegingen bedrijven er toch toe kunnen dwingen middelen toe te wijzen alsof dat wel het geval is. Die realiteit heeft volgens hem directe financiële gevolgen voor investeerders die de vooruitzichten van Anthropic beoordelen.

Tags bij dit artikel