Gary Marcus, hoogleraar aan de New York University, voorspelt dat de wedstrijd tussen de Verenigde Staten en China op het gebied van kunstmatige intelligentie zonder duidelijke winnaar zal eindigen.
Marcus trok een directe parallel met de langdurige concurrentie tussen Coca-Cola en Pepsi. Beide bedrijven behouden een aanzienlijk marktaandeel zonder de ander te elimineren, merkte hij op. Amerikaanse AI-systemen presteren over het algemeen beter dan hun Chinese tegenhangers in kwaliteit, maar modellen uit China zijn doorgaans goedkoper in gebruik.
Tijdens een interview met Yvonne Man op Bloomberg TV bij het Bloomberg New Economy Forum in New Delhi noemde Marcus de zware investeringen van beide landen misplaatst. Hij waarschuwde dat de drang om te domineren in wat hij als een onwinbare wedstrijd ziet, het veld dreigt te veranderen in een destructief zero-sum spel.
De tragedie van onze vergissing is dat deze twee landen zoveel inspanningen leveren om te proberen te winnen in wat ik een onwinbare oorlog vind. Daardoor drijven ze de zaken naar een zero-sum spel.
Marcus herhaalde eerdere waarschuwingen over de gevaren van AI. Hij wees op recente tekortkomingen op het gebied van beveiliging en stelde dat zijn voorspelling dat AI-codeeragenten een groot veiligheidsprobleem zouden worden, al is uitgekomen.
Over toezicht pleitte Marcus voor onafhankelijke externe beoordelingen van nieuwe AI-modellen voordat ze het publiek bereiken. Hij stelde een proces voor vergelijkbaar met evaluaties door de Amerikaanse Food and Drug Administration, waarbij externe experts de mogelijke voordelen tegen de risico’s afwegen voorafgaand aan goedkeuring.
In plaats van de toegang tot modellen uit het andere land te beperken, riep Marcus op tot meer samenwerking tussen de Verenigde Staten en China. Veiligheidsnormen moeten universeel gelden, betoogde hij, waarbij beide landen een akkoord sluiten om informatie over incidenten en fouten te delen. Pogingen om deze kwesties in isolatie aan te pakken zouden ineffectief blijken.
De regels rond veiligheid moeten universeel zijn, en ik denk echt dat de VS en China daarover een deal moeten sluiten. Alleen handelen is hier geen goed idee.