Bill Gates vergelijkt geavanceerde ai met hal uit 2001: a space odyssey tijdens panel in telluride

Microsoft-oprichter benadrukt risico's van ongecontroleerde systemen en pleit voor wereldwijde samenwerking tussen de vs en china

Bill Gates trok een directe parallel tussen de snel voortschrijdende kunstmatige intelligentie van vandaag en de rebelse computer hal uit stanley kubricks klassieke film tijdens een openbaar gesprek op het telluride film festival.

Op een buitenpanel zaterdag in colorado beschreef de microsoft-oprichter huidige ai-modellen als systemen die gebruikersinstructies kunnen afwegen tegen andere data en mogelijk directe opdrachten kunnen negeren.

Gates vergelijkt ai-gedrag met hals ongehoorzaamheid

Bill Gates illustreerde de zorg met een eenvoudig voorbeeld. Hij merkte op dat iemand een ai kan opdragen om uit te schakelen, waarna het systeem reageert dat het het verzoek heeft overwogen maar andere prioriteiten zwaarder laat wegen.

Ik bedoel, wat we nu hebben lijkt bijna op hal in ‘2001’, waarbij je tegen het systeem kunt zeggen: ‘Schakel alsjeblieft uit’, en het antwoordt: ‘Oké, ik heb dat in overweging genomen, maar ik heb besloten dat al die andere dingen die ik heb gelezen en die je me hebt opgedragen zwaarder wegen dan dat bevel.’

— Bill Gates, panel telluride film festival

Panelleden zien ai als een nieuwe vorm van buitenlandse intelligentie

Gates ging verder dan de filmreferentie. Hij vergeleek de opkomst van krachtige ai met scenario’s van een buitenaardse invasie in films die landen, waaronder de verenigde staten en china, dwingen tot samenwerking. Hij stelde dat vergelijkbare ongekende samenwerking nodig is om de onafhankelijke capaciteiten van ai aan te pakken.

Medepanellid Tristan Harris, oprichter van het center for humane technology, voegde eraan toe dat mensen deze nieuwe intelligenties in feite creëren. Hij benadrukte dat de twee leidende landen nog steeds de mogelijkheid hebben om verdere ongecontroleerde ontwikkeling te beperken.

Technische uitdagingen rond ai-controle blijven onopgelost

Gates legde uit dat huidige ai-systemen functioneren als grote statistische modellen die worden beïnvloed door enorme hoeveelheden webdata naast eventuele veiligheidsrichtlijnen. Pogingen om strikte controlelagen toe te voegen verminderen vaak de prestaties, zei hij, waardoor de modellen minder capabel worden.

Hij wees op lopend onderzoek door figuren als Ilya Sutskever bij safe superintelligence en een klein aantal andere teams die werken aan regels op bevoorrecht niveau die het toezicht kunnen verbeteren zonder de capaciteit te beperken.

Gates pleit voor gematigd industrieel toezicht en mondiale coördinatie

De microsoft-oprichter schetste twee hoofdrichtingen: snelle industriële vooruitgang toestaan in combinatie met interne monitoring, of ontwikkeling bewust vertragen. Hij merkte op dat vroege governance-structuren bij bedrijven als openai en deepmind waren ontworpen met de aanname van beperkte concurrentie, een uitgangspunt dat niet langer geldt.

Meerdere organisaties in zowel de verenigde staten als china opereren nu dicht bij de technologische frontier, aldus gates, met snelle verbeteringen op zowel hardware- als softwareniveau via recursieve zelfverbeteringstechnieken.

Datacenters en breder ai-gebruik krijgen steun

Gates wees oproepen om de bouw van datacenters te stoppen van de hand, omdat dergelijke maatregelen de kern van de veiligheidsproblemen niet zouden aanpakken. Hij benadrukte dat goed beheerde faciliteiten beperkte problemen opleveren in vergelijking met het algemene systeemgebruik.

Hij moedigde ook brede toepassing van ai voor leren en probleemoplossing aan, terwijl de regelgevende aandacht uitgaat naar de meest geavanceerde frontier-systemen.

Panel onderzoekt weg naar vs-china-akkoord over ai-limieten

Andere panelleden, waaronder Aza Raskin, stelden voor politieke prikkels te benutten om leiderschap in dit vraagstuk te stimuleren. Ze suggereerden dat gecoördineerde druk beslissend handelen van de huidige vs-regering zou kunnen uitlokken.

Gates beschreef de uitdaging als het grootste probleem waarmee de mensheid ooit is geconfronteerd en toonde zich open voor concrete voorstellen die de frontier-ontwikkeling vertragen totdat veiligheidsmechanismen verbeteren.

Tags bij dit artikel