Waarom AI-bedrijven je bang willen maken: 'We denken al snel aan The Terminator'

In dit artikel:

AI-bedrijven schetsen regelmatig doemscenario’s over hun eigen technologie, maar doen dat vaak ook om publiciteit en marktmacht te winnen. Volgens een analyse van NOS op 3 en onderzoekers van de Universiteit van Amsterdam en Leiden werkt dat al jaren zo: OpenAI waarschuwde in 2019 dat GPT-2 misbruikt kon worden voor nepnieuws, oplichting en haatberichten, maar bracht het model later alsnog breed uit. Ook Anthropic deed eerder dit jaar iets vergelijkbaars door zijn programma Mythos te presenteren als een hulpmiddel waarmee zonder technische kennis gehackt kon worden, om daarna een veiligere variant, Fable, te introduceren.

Onderzoekers zeggen dat bedrijven bewust spelen met angst en mystiek rond AI. Namen en waarschuwingen doen mensen denken aan sciencefiction en aan een bijna almachtige technologie, terwijl de bedrijven daarmee tegelijk hun producten aantrekkelijker maken voor klanten, vooral bedrijven die kosten willen besparen. Technologiedeskundige Bert Hubert wijst erop dat zulke waarschuwingen vaak veel aandacht trekken, waarna het product alsnog verkocht wordt. Volgens de experts vergroot de media-aandacht dat effect soms door termen te gebruiken als dat AI ‘op hol slaat’, terwijl het in werkelijkheid meestal gaat om fouten of keuzes van het bedrijf zelf. De boodschap: wees kritisch op de verhalen van AI-bedrijven, want die dienen vooral hun eigen commerciële belang.