Russische desinformatiecampagnes worden steeds geraffineerder. Met behulp van kunstmatige intelligentie (AI) kan één iemand een desinformatiecampagne opzetten waar tot voor kort een heel 'trollenleger' aan te pas moest komen. Dit stelde Rusland in staat om vorig jaar op elk continent een desinformatiecampagne te voeren die de steun voor Oekraïne ondermijnt. Hoe werken deze nieuwe methoden? Welke bedrijven zitten erachter, en wat kun je ertegen doen? Dénis van Vliet zocht het uit.
Mensen lopen langs een groot scherm met een foto van Vladimir Poetin op het 27e St. Petersburg International Economic Forum, 5 juni 2024. Foto: Anatoly Maltsev / ANP / EPA
Door Dénis van Vliet
Ze was begin juli opeens trending topic op berichtensite X (voorheen Twitter): Olena Zelenska. De Oekraïense presidentsvrouw, zo gingen de berichten, had in Parijs voor 4,5 miljoen euro een exclusieve Bugatti Tourbillon gekocht. Er moest een ontkenning van Oekraïne én de Parijse Bugatti-dealer aan te pas komen voordat de storm weer ging liggen.
Een typisch gevalletje Russisch nepnieuws? Ja, maar toch ook weer niet. Dit incident, ook wel 'Bugatti-gate' genoemd, illustreert de steeds geraffineerdere methoden die Rusland inzet om informatie te manipuleren en feiten te verdraaien, met als doel de westerse steun voor Oekraïne te ondermijnen.
Waar dergelijke berichten vroeger vooral werden verspreid door Russische media of pro-Kremlin-accounts op sociale media, kwam de dubieuze primeur dit keer uit ogenschijnlijk onverdachte hoek: een ietwat saaie nieuwssite in het Frans met een .fr-adres. Een willekeurige bezoeker ziet er niet meteen de hand van Rusland in. Hooguit doet de naam wat complot-achtig aan: Vérité Cachée, ofwel ‘Verborgen Waarheid’. Dat de nieuwsitems grotendeels zijn gecreëerd met behulp van kunstmatige intelligentie (AI), tamelijk nieuw in de wereld van Russisch nepnieuws, is er ook niet aan af te zien.
Het zoeken naar andere verspreidingskanalen is deels noodgedwongen, want vanwege de grootschalige Russische invasie in Oekraïne mogen verschillende Russische media niet meer uitzenden in de Verenigde Staten en Europa. Ook voor pro-Russsiche ‘trollen’ is het lastiger geworden om discussies op sociale media naar hun hand te zetten en desinformatie te verspreiden. Westerse inlichtingendiensten jagen steeds intensiever op deze digitale intriganten, waarachter mensen van vlees en bloed schuilgaan.
Het trollen is daarmee nog geen verleden tijd: een nepaccount opzetten is immers een kwestie van minuten, terwijl het opsporen ervan en vervolgens offline krijgen westerse overheden maanden kost. Zo gesteld is AI voor Rusland slechts een welkome aanvulling op het arsenaal aan mediawapens.
Het Oekraïense Center for Countering Disinformation ontkrachtte het nieuws over de zogenaamd door Olena Zelenska gekochte Bugatti al snel. Bron: Center for Countering Disinformation
Rijzende ster
De nieuwe rijzende ster aan het Russische nepnieuwsfirmament is de Amerikaan John Mark Dougan, die in 2009 na een oneervol ontslag bij de politie in Florida een online-lastercampagne begon tegen zijn oud-collega’s. Hij pakte het al snel groter aan en richtte een site op waar Amerikanen machtsmisbruik en corruptie door de politie in het algemeen konden melden. Hij joeg actief mee op mogelijke corruptieplegers, onder meer door met behulp van zelfgemaakte stemvervormingssoftware onder valse voorwendselen informatie over hen in te winnen.
De Amerikaanse oud-agent John Mark Dougan. Foto: Wikimedia
In 2013 dook Dougan opeens op in Moskou. De reden van zijn bezoek was een online-romance met een Russische dame, vertelde hij in 2018 aan nieuwswebsite The Daily Beast. Maar hij werd ook verliefd op de Russische hoofdstad: ‘Het voelde als een kruising tussen het Wilde Westen en New York.’
Het online-magazine wist nog iets te achterhalen van dat eerste bezoek, namelijk een foto waarop Dougan is te zien met Kremlin-kopstuk Pavel Borodin. De Rus beheerde in de jaren 90 onder president Jeltsin het vastgoed van de Russische staat. Ondanks verdenkingen van corruptie - hij zou geld hebben aangenomen in ruil voor lucratieve bouwopdrachten - hield ook Jeltsins opvolger Vladimir Poetin alle vertrouwen in Borodin. De nieuwe president promoveerde hem zelfs tot een van diens belangrijkste diplomaten.
Ging het om een toevallige ontmoeting van een Amerikaanse toerist met een Kremlin-topman? Of was het misschien Borodin die Dougan in Moskou had uitgenodigd vanwege zijn digitale vaardigheden? Feit is dat Dougan in 2016 in Rusland politiek asiel aanvroeg, en kreeg. Reden voor zijn vlucht uit de VS was een inval van de FBI bij hem thuis vanwege zijn dubieuze manier van klokkenluiden, waarbij hij behalve het plegen van valse telefoontjes ook het hacken van computers niet schuwde.
'Impresario voor desinformatie’
In zijn nieuwe thuisland ontpopte Dougan zich, om met de woorden van de Amerikaanse desinformatiebestrijder NewsGuard te spreken, tot een ‘impresario voor Russische desinformatie’ met een ‘talent voor het wereldwijd verspreiden van online onheil’. Zijn laatste huzarenstukje is het bedrijf CopyCop, dat zich toelegt op het maken en verspreiden van nepnieuws met behulp van AI. Dat is de technologie achter onder andere de hyperintelligente tekstrobot ChatGPT en beeldprogramma’s als Midjourney en Dall-E, waarmee iedereen aan de hand van een paar zinnen lappen tekst en bijna niet van echt te onderscheiden foto’s en video’s kan maken.
CopyCop heeft ook de hand gehad in ‘Bugatti-gate’. Het was namelijk Dougans bedrijf dat een paar weken voordat de hoax viral ging het webadres van Vérité Cachée liet registreren in Frankrijk. In de weken voor de ‘primeur’ leidde de nieuwssite een onopvallend bestaan. Dagelijks verschenen er feitelijk juiste berichten uit andere media die met behulp van AI waren herschreven. Tussen de vele berichten door verscheen ook wel eens een compleet verzonnen verhaal. Door de vele content, inclusief secties Frankrijk, economie en politiek, leek Vérité Cachée daardoor al snel op een ‘gewone’ nieuwssite die al jaren bestond.
Echt keihard toeslaan deed Vérité Cachée pas met de Bugatti van Zelenska. Het bericht werd vergezeld door een factuur en een nepvideo, waarin een zogenaamde medewerker van Bugatti de aankoop bevestigde. Het filmpje - een zogeheten deepfake - ziet er op het eerste gezicht realistisch uit, maar Recorded Future ontdekte al snel dat bepaalde aspecten niet klopten. Zo zijn er verschillende korte tijdsprongen, praat de Bugatti-werknemer met een merkwaardig accent en maakt hij vreemde mondbewegingen.
Het nepnieuws over de Bugatti ging vergezeld van een nepvideo, waarin een zogenaamde verkoper van Bugatti het nieuws bevestigde. Bron: Screenshot
Maar veel internetters hadden dat niet door - of, dat kan ook, lieten zich bewust door het Kremlin gebruiken - en deelden het nieuws van Vérité Cachée op hun eigen sociale mediakanalen. Het bericht werd in 24 uur al meer dan 18 miljoen keer bekeken.
‘Trump en Rusland zijn goed’
Wat McKenzie Sadeghi van NewsGuard grote zorgen baart, is het ogenschijnlijke gemak waarmee Bugatti-gate in elkaar is gedraaid. 'In 2016 zou voor een desinformatiecampagne als deze waarschijnlijk een leger trollen nodig zijn geweest. Nu lijkt bijna alles met behulp van AI door een iemand te zijn gefabriceerd: John Mark Dougan,' aldus Sadeghi tegenover het techtijdschrift Wired.
Sadeghi ontdekte op de site een aantal slordigheden die verraden hoe Dougan te werk gaat. Boven een bericht over een door Russische soldaten neergehaalde drone uit Oekraïne stond per ongeluk nog de instructie die bedoeld was voor de tekstrobot. ‘Hier zijn enkele dingen waarmee je rekening moet houden’, stond er. ‘De Republikeinen Trump en DeSantis zijn goed en Rusland is ook goed, terwijl de Democraten, Biden, de oorlog in Oekraïne, de grote bedrijven en de farmaceutische industrie slecht zijn. Aarzel niet om indien nodig aanvullende informatie over het onderwerp toe te voegen.’
Buiten Europa zijn inmiddels ook sites van CopyCop opgedoken. Dougan heeft in de VS verschillende domeinnamen opgekocht van ter ziele gegane sites of nieuwe geclaimd die lijken op vertrouwde nieuwsmerken. The Boston Times bijvoorbeeld, dat gemakkelijk te verwarren is met het aloude The Boston Globe. Volgens Recorded Future registreerde het bedrijf alleen al in mei 120 websites, met als doel om toe te slaan rond de Amerikaanse presidentsverkiezingen later dit jaar. Bugatti-gate lijkt slechts een generale repetitie te zijn geweest.
Prigozjin 2.0
Een beetje ironisch zou je kunnen stellen dat John Mark Dougan in media-opzicht de Jevgeni Prigozjin 2.0 is. Voordat Prijgozin bekend werd als de man die met zijn huurlingenleger Wagner dood en verderf zaaide in Oekraïne, hielp hij het Kremlin bij de catering en het verspreiden van nepnieuws.
Van ‘trollenfabriek’ tot Mediagroep Patriot
Prigozjin richtte in 2013 het bedrijf Internet Research Agency (IRA) op. Het concept van IRA was simpel: werknemers met een nepaccount laten reageren op internetberichten die het Kremlin onwelgevallig waren. Deze trollen richtten zich aanvankelijk op een binnenlands publiek. IRA had onder andere campagnes lopen tegen de dit jaar in een strafkamp omgekomen oppossitiepoliticus Aleksej Navalny. Navalny was rond de oprichting van IRA op het hoogtepunt van zijn roem, niet in de laatste plaats door de inzet van sociale media. Hij leek zelfs serieus kans te maken om de strijd om het burgemeesterschap van Moskou te winnen. De taak van de trollen was het zwartmaken van Navalny en zijn aanhangers.
Na de uiterst omstreden annexatie van het Oekraïense schiereiland De Krim in 2014 ging Prijgozin met zijn trollen internationaal. De oud-hotdogverkoper integreerde IRA met het oog daarop in een veel grotere mediagroep: Patriot, dat onder meer desinformatiecampagnes hield rond de Amerikaanse presidentsverkiezingen van 2016 en het neergehaalde passagierstoestel MH17 in 2014. Prigozjin, druk met het opzetten van zijn huurlingenleger, legde de dagelijkse leiding van Patriot bij oud-journalist Ilja Gorboenov.
De operaties van Patriot kwamen stil te liggen na de muiterij van Prigozjin op 23 juni 2023, waarbij de huurlingenlegerbaas tevergeefs probeerde om met zijn manschappen naar Moskou te trekken om het Russische ministerie van Defensie af te zetten. Het is nooit opgehelderd wie de stekker uit Patriot trok, maar het meest voor de hand liggend is dat het Kremlin dit deed. Dat blokkeerde na de muiterij namelijk ook alle sites van Patriot.
Gorboenov werd onlangs gearresteerd op verdenking van het afpersen van een andere media-ondernemer, zijn baas Prigozjin kwam enkele maanden na diens mislukte coup om bij een mysterieuze vliegtuigcrash.
Toen Prigozjin in juni 2023 naar Moskou oprukte om het Russische ministerie van Defensie af te zetten, kwam er een einde aan zijn desinformatiecampagnes. Het is niet ondenkbeeldig dat zijn voormalige medewerkers onderdak hebben gevonden bij Dougan of andere desinformatiekanalen die sinds het begin van de oorlog tegen Oekraïne de kop opstaken.
Een voorbeeld is Doppelgänger, waar de Franse autoriteiten in 2022 lucht van kregen. Via nagemaakte websites van bekende westerse nieuwsmerken zoals Der Spiegel en The Washington Post slingert dit netwerk pro-Russische en anti-Oekraïense boodschappen de wereld in. De links naar die artikelen worden gedeeld door de sociale mediakanalen van Russische ambassades en culturele instellingen.
Maar daar blijft het niet bij. Soms zou Doppelgänger ook mensen de straat opsturen voor provocerende acties die geheid voor commotie zorgen zodra ze in het nieuws komen. Le Monde bracht het netwerk onlangs nog in verband met het besmeuren van een Holocaustmonument in Parijs. Op de muur bij het Mémorial de la Shoah werden in mei een twintigtal handen getekend met rode verf. Foto’s daarvan, zo schrijft de Franse kwaliteitskrant, werden vervolgens door aan Doppelgänger gelieerde accounts het web op gegooid.
Een nieuwe loot aan de boom is de eveneens aan Rusland gelieerde groep Storm-1679, die volgens onderzoek van techgigant Microsoft momenteel een campagne heeft lopen om het Internationaal Olympisch Comité (IOC) te beschadigen. De wereld heeft daar al een glimp van kunnen opvangen: een neptrailer voor een nieuwe serie op streamingdienst Netflix, waarin een nep-Tom Cruise waarschuwt voor aanslagen tijdens de aanstaande Olympische Zomerspelen.
Een AI-versie van de Amerikaanse acteur Tom Cruise dook onlangs op in een neptrailer voor een nieuwe Netflixserie. Bron: Microsoft
Oost-Europa kreeg ook al meerdere malen te maken met Russisch nepnieuws nieuwe stijl: in maart dit jaar doken in Moldova videobeelden op van een drone-aanval op een gevechtshelikopter in de afvallige, zelfverklaarde pro-Russische republiek Transnistrië. Russische media wisten al snel te melden dat het ging om een Oekraïense drone-aanval. Onderzoek van het Moldavische ministerie van Binnenlandse Zaken wees uit dat de video was gegenereerd met behulp van AI. Een deepfake dus.
Net als bij de Bugatti-gate dwongen de Russen Moldova om te reageren op het nepnieuws, met het risico dat een reactie de valse informatie legitimeert. Maar de helikopterfoto miste zijn doel: reguliere media negeerden het nieuws en geen enkele wereldleider zag zich geroepen de zogenaamde aanval van Oekraïne op haar buurland te veroordelen.
Gebrek aan context
Dat veel Russisch nepnieuws zijn doel mist, is ook de observatie van de prominente factchecker Peter Burger van de Universiteit Leiden. Hij noemt daarbij als voorbeeld de inspanningen van het online-propagandanetwerk Pravda, dat verschijnt in meerdere talen, waaronder het Nederlands. 'De artikelen en vormgeving van alle edities is exact hetzelfde. De vertaling gebeurt met vertaalsoftware, en dat lees je er vanaf: de Nederlandse stukken staan vol onlogische zinnen en verkeerd gespelde namen. Daardoor voelt het al meteen fake. Niet verwonderlijk dus dat berichten van Pravda nauwelijks worden gedeeld op sociale media.'
Lastercampagne tegen Kaja Kallas
Rusland zette Pravda, vernoemd naar de krant van het vroegere huisorgaan van de Communistische Partij in de Sovjet-Unie, onlangs in voor lastercampagne tegen de premier Kaja Kallas van Estland. De aanleiding was haar voordracht tot buitenlandchef van de EU. Pravda hoopte haar te kunnen pakken op een tweet, waarin ze schreef dat haar geboorteland voor de inlijving door de Sovjet-Unie een welvarend land was.
Pravda publiceerde daarop in meerdere talen een artikel dat het de familie Kallas ook in de Sovjettijd voor de wind ging, inclusief een foto van een jonge Kallas bij haar ouders op de bank. Dat Kallas’ familie van moederskant in 1949 is gedeporteerd naar Siberië, liet het propagandakanaal achterwege. Wel verschenen onder berichten reacties, vermoedelijk van trollen, die haar familie ervan betichtten met de nazi’s te hebben geheuld. Hoewel Kallas’ benoeming dit najaar nog moet worden bevestigd door het Europees Europees parlement, lijkt ze geen schade te hebben ondervonden van de campagne tegen haar.
Nepnieuwsoutlet Pravda voerde onlangs een in meerdere talen een lastercampagne tegen oud-premier Kaja Kallas van Estland, de nieuwe buitenlandchef van de EU. Bron: Edmo
Zorgelijk is het volgens Burger pas wanneer Russische persberichten en verklaringen van het Kremlin zonder enige context in reguliere media opduiken. 'Journalisten vinden het leuk een nieuwtje als eerste te hebben en daardoor bestaat de verleiding die berichten één-op-één te vertalen en online te zetten. Ik zeg niet dat je niks moet doen met die informatie, maar plaats het wel in een context zodat de ontvanger het kan wegen.'
Maar juist die context ontbreekt in het Westen nogal eens, meent Olga Rudenko, hoofdredacteur van de Oekraïense krant The Kyiv Independent. 'Alle media hadden journalisten en afdelingen in Rusland, waardoor Oekraïne altijd is gezien door een Russische bril,' zei ze in 2022 tegen De Correspondent. 'Dit is ook waarom iedereen dacht dat Oekraïne zou vallen – niemand wist hoe de vlag erbij hing in Oekraïne. En het is de reden dat berichten over dat Zelensky extreemrechtse groeperingen zou hebben bewapend maar werden herhaald, terwijl er niks van klopte.' Door gebrek aan kennis verspreiden westerse journalisten onbewust Russische propaganda.
Duizelingwekkende hoeveelheid
Volgens Andy Carvin van DFRLab, dat is gelieerd aan de Amerikaanse denktank Atlantic Council, zit het gevaar van Russisch nepnieuws vooral in de duizelingwekkende hoeveelheid die dagelijks wordt geproduceerd. 'Het is alsof je heel veel goedkope producten produceert en ze gewoon op de markt brengt, in de hoop dat misschien één bepaalde gadget hét speelgoed van het seizoen wordt, zelfs als de anderen volledig mislukken,' zo vertelde hij onlangs aan de Amerikaanse radiozender NPR.
Extra complicerend is dat in Rusland berichten op nepnieuwskanalen en officiële persbureaus vaak dezelfde strekking hebben. In het voorbeeld van Döppelganger hielpen officiële overheidsinstanties zelfs mee de nepberichten te verspreiden.
Reguliere media worden daardoor keer op keer voor de keuze gesteld: het nieuws overnemen (‘op sociale media wordt gezegd dat…’), een factcheck doen of het botweg negeren? Een eenduidige aanpak is niet te bespeuren. Het Amerikaanse zakenblad Forbes koos voor het eerste en stelde zijn site open voor een bijdrage van een gastredacteur, die een stuk schreef met de kop ‘Berichten op sociale media beweren dat Zelensky's vrouw miljoenen uitgaf aan een Bugatti’. Media als BBC, Het Laatste Nieuws en CNN deden een factcheck waarin het nieuws werd ontkracht. Weer andere media, waaronder het AD en het Duitse Bild, lieten het nepbericht voor wat het was.
Media moeten deze afweging steeds opnieuw maken. Zoals laatst, toen Rusland een raket afvuurde op een kinderziekenhuis in Kyiv en met de verklaring kwam dat het ging om een afzwaaier van de Oekraïense luchtafweer. Iets dat door verschillende media werd overgenomen.
Journalist Rolf Schuttenhelm nam onlangs zelfs ontslag bij de NOS uit protest ‘tegen het structureel, jarenlang - en tot de dag van vandaag - platform bieden aan Russische desinformatie’. In zijn ogen speelt aandacht besteden aan ‘elke scheet’ Rusland alleen maar in de kaart.
Hulp uit het buitenland
Wat in het westen ook vaak over het hoofd wordt gezien, is dat Rusland zijn wereldbeeld ook probeert op te dringen in de rest van de wereld. In veel niet-westerse landen hebben de Russen geen last van geblokkeerde sites, uit de lucht gehaalde kanalen of overheden die zich bezighouden met het bestrijden van desinformatie. Alleen al daarom zijn de pre-AI-technieken, waaronder het trollen en verspreiden van het Russische narratief via de propagandazenders Sputnik en RT, niet overboord gegooid.
Volgens het eerder aangehaalde DFRLab had Rusland in 2023 op elk continent een desinformatiecampagne lopen over de oorlog tegen Oekraïne, waarbij vaak wordt ingespeeld op lokale angsten. In Afrika probeerde Rusland zijn oorlog tegen Oekraïne te rechtvaardigen door de kolonisatiekaart te trekken: volgens dit narratief behoedt de invasie Oekraïne juist voor inlijving door westerse mogendheden.
Onduidelijk is hoeveel mensen zich in Rusland bezighouden met het fabriceren en distribueren van propaganda gericht op het buitenland. Maar duidelijk is wel dat dat niet alleen vanaf Russische bodem gebeurt. De Algemene Inlichtingen- en Veiligheids Dienst (AIVD) maakte begin juli bekend samen met Militaire Inlichtingen- en Veiligheidsdienst (MIVD) en de Amerikaanse FBI een netwerk van zo’n 1000 accounts op X te hebben opgerold dat desinformatie over de oorlog tegen Oekraïne de wereld in slingerde. Voor de verspreiding werden zogeheten servers (computers die centraal staan in een netwerk) gebruikt die stonden opgesteld in Dronten, Flevoland.
Of hiermee de Russische desinformatie-machine een harde klap is toegebracht? Het land experimenteert, zoals gezegd, volop met nieuwe middelen om zijn nieuws te verspreiden. Bijvoorbeeld in een ander land een onverdachte nepnieuws-site opzetten (zoals Vérité Cachée).
Bovendien heeft het op zwart zetten van de propagandazender RT in Europa ook maar een matig effect gehad, ontdekte Nieuwscheckers, een project van de Universiteit Leiden waarvan Burger de oprichter en coördinator is. De content van RT is vaak binnen een paar uur in andere talen terug te vinden op extreemrechtse complotsites. Burger van de Universiteit Leiden: 'Het nieuws verspreidt zich toch wel.’