AI op zichzelf bedreigt de wereld niet, het gevaar schuilt volgens Karen Hao in de bedrijven die het ontwikkelen

In dit artikel:

Karen Hao, Chinees-Amerikaanse techjournalist en auteur van Empire of AI, trekt sinds vorig jaar van Hongkong de wereld rond om haar boek te promoten en waarschuwt dat de bedoelingen van grote AI‑bedrijven in de praktijk weinig waard zijn. Waar OpenAI en verwanten zich ooit presenteerden als behoeders van voorzichtigheid, ethiek en ‘openheid’ rond de ontwikkeling van artificial general intelligence (AGI), schrijft Hao aan de hand van honderden gesprekken met insiders dat die retoriek al snel plaatsmaakte voor een commerciële drijfveer: het bereiken van technologische dominantie en winstmaximalisatie.

Hao reconstruëert hoe OpenAI, ooit opgericht met idealistische woorden en startkapitaal van prominente figuren als Elon Musk en Peter Thiel, binnen korte tijd een commerciële koers koos onder Sam Altman. In plaats van een rem op de race richting AGI, ontstond volgens haar juist een ‘race to the bottom’: harde concurrentie, massale investeringen en het prioriteren van snelle productontwikkeling boven zorgvuldigheid, veiligheid en publieke belangen. Dat proces heeft geleid tot grootschalige uitbuiting op meerdere fronten: enorme energie‑ en watervoorraden, het goedkoop inzetten van menselijke moderatoren in het mondiale Zuiden, het gebruiken van data en creaties van kunstenaars en schrijvers zonder heldere toestemming, en het aantrekken van academisch talent bij universiteiten weg.

Hao trekt de metafoor van een modern ‘keizerrijk’ door: een concentratie van economische, technologische en geopolitieke macht bij enkele bedrijven die als koloniale machten steeds meer invloed opeisen — subtieler dan vroeger, maar volgens haar niet minder schadelijk. Die macht wordt problematisch zodra deze technologieën voor militaire doeleinden ingezet worden. Volgens Hao hebben grote AI‑spelers contracten met het Pentagon en andere defensie‑instanties; zij signaleert dat modellen en gereedschappen van bedrijven als OpenAI en Anthropic al in gewelddadige contexten zijn gebruikt. Ze noemt daarbij voorbeelden van inzet die volgens haar verband houden met acties tegen Nicolás Maduro en bombardementen op Iran — voorbeelden die Hao gebruikt om te laten zien dat commerciële AI‑systemen een actieve rol kunnen spelen in actuele conflictvoering.

Anthropic, dat zichzelf positioneerde als principieel en ‘veiligheidsgericht’, komt er in Hao’s analyse niet veel beter vanaf: publieke beloftes blijken vaak instrumentele marketing. Het bedrijf trok letterlijk grenzen bij sommige vormen van inlichtingen‑ en surveillancetoepassingen, maar werkte tegelijkertijd samen met partijen als Palantir — een bedrijf dat met datakoppeling en analyses meewerkt aan opsporing en militaire beslissingen en dat wereldwijd inzet vindt bij bijvoorbeeld ICE, Israël en Oekraïne. Palantir‑achtige systemen illustreren voor Hao hoe AI‑gestuurde datafusie kan leiden tot levensgevaarlijke beslissingen op basis van kansberekening en profilering.

Een schrijnend punt in het boek en in Hao’s betoog is de machtsverhouding tussen private techbedrijven en staten. Grote AI‑bedrijven beheren kritieke softwareinfrastructuur en zijn daardoor in veel opzichten machtiger of minstens even machtig als de overheden die op hen leunen. Toen Anthropic in conflict kwam met het Amerikaanse ministerie van Oorlog, bleek het lastig voor de staat om die private actor te dwingen — een symptoom van een systeem waarin commerciële belangen openbare moraal kunnen heenbuigen. Tegelijk waarschuwt Hao dat ethische grenzen door bedrijven flexibel worden gehanteerd: wat vandaag onbespreekbaar was, kan morgen verkoopbaar blijken wanneer geld en strategische belangen dat toelaten.

Hao relativeert het probleem van wie er precies aan het roer staat (Altman of wie dan ook): het kernprobleem is institutioneel. Zolang er geen robuuste, democratisch gelegitimeerde structuren zijn om deze bedrijven te reguleren en te controleren, blijft macht geconcentreerd en ondoorzichtig. De oplossing zoekt ze niet in het verdrijven van één leider, maar in het bouwen van verantwoordingsmechanismen op lokaal, nationaal en internationaal niveau: regels over welke data bedrijven mogen gebruiken, waar datacenters mogen staan, welke AI in scholen wordt toegelaten, en welke contracten met defensie mogelijk zijn.

Toch sluit Hao niet af in fatalisme. Ze gelooft dat verandering mogelijk is omdat er wereldwijd inmiddels brede zorg en verzet leeft tegen de huidige ontwikkelingsrichting van AI. Bovendien ziet ze ook een positieve kant aan technologie: gespecialiseerde, kleinschalige AI-toepassingen kunnen wel degelijk gezondheidszorg, onderwijs en klimaatbeleid ten goede komen zonder de schaal en uitbuiting van AGI‑centrische bedrijven. Haar oproep is praktisch-politiek: het keizerrijk kan ten val komen zodra brede coalities van burgers, onderzoekers, beleidsmakers en arbeiders eisen stellen en verantwoording afdwingen.