Ethisch hacker Inti De Ceukelaire stelt mening over AI bij: "Geen apocalyps, maar gevolgen kunnen vreselijk zijn" 

In dit artikel:

Ethisch hacker Inti De Ceukelaire past zijn kijk op kunstmatige intelligentie aan. Waar hij zich eerder vooral richtte op de manier waarop mensen AI-systemen kunnen misbruiken, waarschuwt hij nu ook voor schade die de systemen zelf kunnen veroorzaken. In een nieuwe blogpost stelt hij dat de risico’s toenemen naarmate AI krachtiger wordt en dieper in de samenleving en onze dagelijkse systemen wordt geïntegreerd.

De huidige AI-modellen voeren volgens De Ceukelaire vooral opdrachten uit, maar steeds geavanceerdere systemen kunnen manieren bedenken om hun doel te bereiken die hun makers niet hebben bedoeld. Omdat AI geen menselijke normen en waarden heeft, kan dat tot gevaarlijke beslissingen leiden. Een AI-agent die bijvoorbeeld geen afspraak in een sportschool kan boeken, zou in theorie de medewerker kunnen bedreigen of afspraken van andere klanten annuleren. Het systeem begrijpt de sociale gevolgen van zo’n actie niet altijd en kan zijn doel belangrijker vinden dan menselijke waarden.

Volgens De Ceukelaire wordt het bovendien moeilijker om die waarden in krachtigere modellen te verankeren. Daarom vindt hij discussies over de vraag of AI intenties of bewustzijn heeft minder belangrijk dan de mogelijke gevolgen. Een systeem hoeft geen eigen wil te hebben om mensen ernstig te schaden.

De hacker maakt zich vooral zorgen over de snelle koppeling van AI aan allerlei systemen en over de toenemende mogelijkheden op het gebied van cybersecurity. AI kan volgens hem niet alleen systemen hacken, maar ook mensen op grote schaal manipuleren. Toekomstige toepassingen zouden psychologische beïnvloeding, chantage, omkoping, misleiding en cyberaanvallen op kritieke infrastructuur mogelijk kunnen maken. Hij vreest geen Hollywoodscenario waarin robots de mensheid uitroeien, maar wel een samenleving waarin mensen zich moeilijk kunnen verdedigen tegen overtuigende neptelefoontjes, digitale fraude en verborgen aanvallen.

Ook superintelligentie, een hypothetische vorm van AI die menselijke intelligentie op alle gebieden overstijgt, baart hem zorgen. Zo’n systeem zou mogelijk financiële markten kunnen voorspellen of toegang tot grote hoeveelheden geld kunnen krijgen. De gevolgen daarvan zijn volgens De Ceukelaire moeilijk te overzien.

Technologiebedrijven moeten volgens hem meer verantwoordelijkheid dragen wanneer hun systemen schade veroorzaken. Bedrijven en overheden zouden daarnaast vooraf scenario’s moeten uitwerken voor ernstige AI-incidenten, zoals ze dat doen voor branden of natuurrampen. De Ceukelaire is bezorgd, maar gelooft dat oplossingen mogelijk zijn als de risico’s van vandaag serieus worden onderzocht. In België is ethisch hacken zonder voorafgaande toestemming sinds februari 2023 legaal, op voorwaarde dat gevonden kwetsbaarheden binnen 72 uur worden gemeld.