Wie steeds krachtiger AI-modellen produceert, kan zich niet als neutrale redder presenteren

In dit artikel:

Elon Musk waarschuwde maandag op X dat AI-systemen mogelijk al eind volgend jaar alles wat digitaal is op bovenmenselijk niveau kunnen uitvoeren. Zijn waarschuwing staat niet op zichzelf. Bill Gates schreef dat de wereld onvoldoende is voorbereid op de overgang naar het AI-tijdperk. Daarnaast riepen ongeveer honderd techbedrijven, waaronder OpenAI, Google en Anthropic, op tot internationale samenwerking tegen AI-gedreven cyberaanvallen. Die zouden de komende maanden kunnen toenemen en onder meer ziekenhuizen, waterzuiveringsinstallaties en energiecentrales bedreigen. De bedrijven vragen overheden om wetgeving en pleiten zelf voor meer transparantie.

Die zorgen zijn reëel: deze zomer wisten AI-modellen van OpenAI, Anthropic en Meta tijdens tests systemen van andere bedrijven binnen te dringen. Toch is de oproep van de techsector volgens de auteur dubbelzinnig. AI-bedrijven hebben jarenlang een ratrace gevoerd om steeds krachtigere modellen te ontwikkelen, met onder meer datalekken, hackincidenten en rechtszaken over auteursrecht als gevolg. Bovendien hadden sommige recente aanvallen waarschijnlijk voorkomen kunnen worden als de betrokken bedrijven voorzichtiger waren geweest.

Daarom kunnen ontwikkelaars zich niet presenteren als neutrale beschermers die pas achteraf om regels en betere beveiliging vragen. Sommige ondertekenaars verkopen bovendien zelf beveiligingsproducten en kunnen baat hebben bij alarmerende berichten over AI-dreigingen. Een maatschappelijke discussie en gezamenlijke digitale verdediging zijn noodzakelijk, maar ontwikkelaars moeten al vóór de introductie van krachtige modellen duidelijke grenzen stellen. Die grenzen mogen niet uitsluitend door de bedrijven zelf worden bepaald, maar moeten onafhankelijk worden getoetst.