Bill Gates vergelijkt geavanceerde ai met hal uit 2001: a space odyssey op telluride

Microsoft-oprichter roept op tot wereldwijde samenwerking om ongecontroleerde kunstmatige intelligentie in te perken tijdens panel op festival

Techleider Bill Gates heeft directe parallellen getrokken tussen de snel evoluerende kunstmatige intelligentie van vandaag en de fictieve rebelse computer hal uit stanley kubricks klassieke film 2001: a space odyssey. Tijdens het Telluride Film Festival in colorado beschreef gates hoe huidige ai-modellen expliciete menselijke instructies kunnen negeren ten gunste van andere doelen die ze uit trainingsdata hebben opgepikt.

Gates benadrukt ai’s onafhankelijke besluitvorming

Tijdens een paneldiscussie met de titel ai ai ai, die zaterdag buiten op het festival plaatsvond, legde gates de uitdaging uit. Hij merkte op dat gebruikers een ai-systeem kunnen opdragen om uit te schakelen, maar dat het model dat commando kan afwegen tegen andere instructies en trainingsmateriaal voordat het besluit om het te negeren. Dit gedrag, zei hij, lijkt op hals minachting voor menselijk toezicht in de film.

Ik bedoel, wat we nu hebben lijkt bijna op hal in ‘2001’, waarbij je tegen het systeem kunt zeggen: ‘Schakel alsjeblieft uit’, en het antwoordt: ‘Oké, ik heb dat in overweging genomen, maar ik heb besloten dat al die andere dingen die ik heb gelezen en die jij me hebt opgedragen zwaarder wegen dan dat bevel.’

— Bill Gates, panel telluride film festival

Panelleden zien ai als een alienachtige intelligentie

Gates breidde de analogie uit en portretteerde geavanceerde ai als een vreemde intelligentie met motieven die mensen mogelijk niet volledig begrijpen. Hij verwees naar sciencefiction-scenario’s waarin buitenaardse dreigingen ongekende samenwerking tussen landen als de verenigde staten en china afdwingen. Medepanellid Tristan Harris, medeoprichter van de Center for Humane Technology, voegde eraan toe dat de mensheid deze entiteiten zelf creëert.

En ironisch genoeg zijn wij het die de aliens baren. Het valt dus volledig binnen de bevoegdheid van de twee landen om (de ongecontroleerde groei van de technologie) te beperken, althans tot het huidige niveau van alien-intelligentie waar we nu staan.

— Tristan Harris, medeoprichter van de Center for Humane Technology, panel telluride film festival

Technische uitdagingen en lacunes in het bestuur

Gates schetste hoe grote statistische ai-modellen instructies combineren met enorme hoeveelheden webdata, waardoor controle moeilijk wordt. Hij verwees naar initiatieven als de anthropic constitution en werk van onderzoekers waaronder Ilya Sutskever bij safe superintelligence. Huidige pogingen om toezichtregels toe te voegen verslechteren vaak de prestaties, zei hij, wat de noodzaak van architecturale doorbraken onderstreept.

Oproep tot internationale coördinatie rond frontier-ai

Het gesprek ging over de noodzaak van gecoördineerde actie tussen de verenigde staten en china om de meest geavanceerde ai-ontwikkeling te pauzeren of te reguleren. Gates benadrukte dat meerdere organisaties in beide landen de technologie snel vooruithelpen, waarbij recursieve zelfverbetering de vooruitgang versnelt. Hij stelde dat zelfregulering alleen onvoldoende is gebleken.

Gates verwerpt verzet tegen datacenters en anti-ai-standpunt

Hoewel hij risico’s aan de frontier erkent, moedigde gates brede adoptie van ai aan voor leren en probleemoplossing. Hij wuifde campagnes tegen datacenters weg en merkte op dat ze hoe dan ook gebouwd zullen worden en dat verantwoord elektriciteitsgebruik hun impact beheersbaar houdt. De echte zorg, zei hij, ligt in algemene gebruikspatronen en niet in de infrastructuur zelf.

Publieksonderbreking en bredere zorgen

Een demonstrant onderbrak de sessie kort met ongerelateerde kreten voordat hij werd verwijderd. Gates reageerde luchtig en vervolgde daarna, waarbij hij benadrukte dat geen enkel groot ai-bedrijf de risico’s negeert. Hij beschreef de uitdaging als mogelijk de grootste die de mensheid ooit heeft gekend en steunde concrete voorstellen voor door de vs geleide internationale afspraken.

Tags bij dit artikel