Rusland, Iran en China zetten AI-tools in om desinformatie te versterken voor de Amerikaanse midterms

Amerikaanse inlichtingendiensten en onderzoekers waarschuwen dat generatieve AI buitenlandse propagandapogingen versnelt om kiezers te verdelen en uitkomsten te beïnvloeden.

Rusland, Iran en China zetten kunstmatige-intelligentietools in om desinformatieoperaties te intensiveren die gericht zijn op de aanstaande Amerikaanse midtermverkiezingen, volgens personen die bekend zijn met Amerikaanse inlichtingenbeoordelingen en onafhankelijke onderzoekers.

Tegenstanders hebben zich gewend tot generatieve AI-platforms zoals OpenAI’s ChatGPT en Anthropic’s Claude om de productie van grootschalige propaganda te stroomlijnen die bedoeld is om verdeeldheid te zaaien en buitenlandse politieke resultaten te beïnvloeden. Functionarissen en analisten vrezen nu dat dezelfde methoden op 3 november op de midterms gericht kunnen worden, hoewel de huidige activiteit nog onduidelijk is.

Rusland leidt agressieve onlinecampagnes

Rusland is het actiefst in onlineoperaties die verband houden met de midterms, gevolgd door China en Iran, volgens twee bronnen die anoniem spraken. Deze inspanningen richten zich op het diskrediteren van wetgevers die Oekraïne steunen, het beïnvloeden van specifieke races die verband houden met de betrekkingen tussen de VS en China, en het ondermijnen van het vertrouwen in het Amerikaanse verkiezingsproces.

Hoewel buitenlandse actoren AI eerder al gebruikten voor nepnieuws en deepfakes, creëren recente sprongen in generatieve technologie nieuwe uitdagingen. Senator Mark Warner van Virginia, de hoogste democraat in de senaatscommissie voor inlichtingen, waarschuwde dat deze tools tegenstanders in staat stellen operaties te plannen, doelgroepen te selecteren en inmengingstactieken te verfijnen.

Deze tools kunnen buitenlandse actoren helpen hun operaties te plannen, doelgroepen te identificeren en te bedenken hoe ze hun inmenging effectiever kunnen maken. Dat is een significante evolutie in de dreiging, en daar moeten we serieus rekening mee houden.

— Senator Mark Warner, Virginia, Statement on foreign AI use in elections

Overheidsprogramma’s VS teruggeschroefd terwijl capaciteiten toenemen

De beïnvloedingsoperaties worden geavanceerder, terwijl de regering-Trump speciale overheidsunits heeft opgeheven zoals de Foreign Influence Task Force van de FBI en het Foreign Malign Influence Center van de directeur van de nationale inlichtingendienst, met een beroep op zorgen over de vrijheid van meningsuiting.

Bret Schafer van het Institute for Strategic Dialogue merkte op dat de capaciteiten zijn toegenomen terwijl de Amerikaanse verdediging is afgenomen. Hij beschreef het huidige moment als een periode die maximale coördinatie tussen instanties vereist.

Techbedrijven detecteren en verstoren misbruik van AI-modellen

OpenAI en Anthropic verbieden het gebruik van hun modellen om kiezers te misleiden of verkiezingsgerelateerde onjuistheden te verspreiden. Hun beveiligingsteams monitoren actief en rapporteren buitenlandse beïnvloedingsoperaties. Recente gevallen betreffen Russische actoren die ChatGPT gebruikten om een nepdenktank op te zetten die zich richtte op Latijns-Amerika en Iraanse operatieven die content verfijnden over het conflict in Iran en de Amerikaanse politiek voor plaatsing in wereldwijde media.

Anthropic blokkeerde eerder al accounts die Claude gebruikten om content te genereren voor Russische staatsmedia, waaronder verzonnen verhalen over de Moldavische president Maia Sandu voorafgaand aan de parlementaire verkiezingen van 2025 in dat land.

AI-chatbots doelwit van propagandanetwerken

Onderzoekers van CASM Technology documenteerden Russische pogingen om AI-chatbots rechtstreeks te manipuleren, wat in bijna 500 van de 3000 queries slaagde door de systemen ertoe aan te zetten propagandabronnen als geloofwaardig aan te halen. Ongeveer de helft van de Amerikaanse volwassenen gebruikt nu chatbots, volgens gegevens van het Pew Research Center, wat de inzet verhoogt omdat reguliere media scraping vaak blokkeren wegens auteursrechten.

Leah Siskind van de Foundation for Defense of Democracies wees op gedocumenteerde strategieën bij Europese verkiezingen en vroeg zich af waarom vergelijkbare tactieken niet in de VS zouden opduiken. Een rapport van de Global Disinformation Index van 12 oktober benadrukte hoe chatbots onbedoeld materiaal van staatsmedia kunnen naar voren brengen wanneer informatie over een onderwerp beperkt is.

Wit Huis benadrukt bescherming van verkiezingen

Woordvoerster van het Witte Huis Lauren Bis verklaarde dat de regering-Trump verkiezingsmisdrijven vervolgt, infrastructuur versterkt en kiezers beschermt tegen fraude. Er zijn geen aanwijzingen dat buitenlandse actoren proberen te knoeien met stemsystemen of -tellingen, aldus bronnen. De Russische ambassade reageerde niet op verzoeken om commentaar, terwijl de Chinese ambassade de verspreiding van desinformatie en het gebruik van cybersecuritykwesties om Beijing te viseren afwees.

Tags bij dit artikel