Putins troldehær flyttede ind på min Facebookprofil

Sådan fungerer den russiske informationskrig

I går skrev jeg om Putins troldehær og dens tilsyneladende hærgen på danske politikeres Facebookprofiler efter Zelenskyjs besøg i Danmark. Da jeg delte artiklen på min egen Facebookprofil, brød der lidt af et helvede løs. Det fik mig til at undersøge, hvordan en moderne troldehær egentlig fungerer. Det er både fascinerende og skræmmende læsning om teknologi, psykologi og manipulation af den offentlige debat. Og det måske mest skræmmende er, at Putin ikke nødvendigvis behøver at betale alle sine trolde.

Fra tilskuer til deltager

I går skrev jeg artiklen Putins troldehær på hårdt arbejde efter Zelenskyjs besøg.

Jeg havde med en blanding af forundring og væmmelse fulgt kommentarfelterne hos danske politikere, der havde udtrykt deres støtte til Ukraine i forbindelse med Zelenskyjs besøg i Danmark.

Det var nærmest som at åbne for en sluse. Ud væltede den ene mere groteske påstand efter den anden om Ukraine, Zelenskyj og den danske støtte til Ukraines frihedskamp.

Jeg havde blandt andet hentet et par skærmbilleder fra Morten Bødskovs Facebookprofil.

Da jeg delte min egen artikel på Facebook, brød der lidt af et helvede løs på min egen profil. Nu var det pludselig ikke længere bare noget, jeg kunne sidde og iagttage hos andre.

Det fik mig til at stille et spørgsmål, som jeg egentlig også havde stillet i gårsdagens artikel, men som jeg ikke havde svaret på:

Hvordan fungerer en troldehær egentlig?

• Sidder der tusindvis af russere ved hver deres computer og skriver kommentarer på dansk?
• Er det hele automatiseret?
• Er det kunstig intelligens?
• Eller er det ganske almindelige danskere?

Svaret er, at det kan være en kombination af det hele.

Hvad er en troldehær?

En troldehær er ikke nødvendigvis en hær af mennesker, der sidder i en stor kontorbygning i Sankt Petersborg og skriver kommentarer på Facebook.

Men den slags arbejdspladser har faktisk eksisteret.

Den mest berømte russiske troldefabrik er Internet Research Agency (IRA), der havde tilknytning til Jevgenij Prigozjin, som også stod bag Wagnergruppen. Her arbejdede mennesker systematisk med at påvirke den offentlige debat i andre lande. De oprettede falske identiteter og udgav sig blandt andet for at være almindelige amerikanske borgere.

Det var altså ikke bare en flok tilfældige russere, der havde fundet sammen om en fælles politisk interesse. Det var organiseret arbejde med henblik på at påvirke befolkningerne i andre lande.

Den moderne troldehær kan bestå af flere forskellige elementer:

Type	Funktion
Betalte trolde	Mennesker, der får løn for at producere og sprede politiske budskaber.
Bots	Automatiserede konti, der kan publicere, dele og reagere på indhold.
Falske profiler	Konti, der udgiver sig for at være almindelige borgere i det land, man ønsker at påvirke.
Kaprede profiler	Ægte profiler, som andre har overtaget kontrollen med.
Kunstig intelligens	Produktion af kommentarer, artikler, billeder og oversættelser i stor skala.
Frivillige sympatisører	Virkelige mennesker, der af egen overbevisning viderebringer propagandaens budskaber.

Den sidste kategori er måske den mest interessante.

En dansker, der skriver, at Zelenskyj er nazist, behøver ikke at være betalt af Putin. Vedkommende kan have læst påstanden så mange gange, at han eller hun faktisk tror på den.

Dermed kan vedkommende bidrage til at udbrede den russiske propaganda uden overhovedet at være klar over det.

Det er en væsentlig sondring, som jeg ikke havde helt på plads, da jeg skrev artiklen i går. Jeg skrev, at jeg havde svært ved at tro, at det var rigtige mennesker, der sad bag tasterne.

Men det kan det sagtens være.

Og det gør egentlig ikke sagen mindre skræmmende.

Hvordan finder troldehæren frem til opslagene?

Forestil dig, at en dansk minister offentliggør et billede af sig selv sammen med Zelenskyj og skriver, at Danmark fortsat vil støtte Ukraines kamp for frihed.

Hvordan kan det være, at der kort tid efter kan være hundredvis af fjendtlige kommentarer?

Det kan eksempelvis foregå ved, at personer eller automatiserede systemer holder øje med bestemte Facebookprofiler og bestemte søgeord såsom Ukraine, Zelenskyj, NATO og Rusland.

Når et relevant opslag dukker op, kan linket til opslaget distribueres til andre deltagere i et netværk. Det kan fx ske via den russisk grundlagte beskedtjeneste Telegram.

Herefter kan deltagerne skrive kommentarer, og andre konti kan understøtte kommentarerne med likes og svar.

Det behøver ikke at være særlig teknisk avanceret. Man kan forestille sig en gruppe, hvor nogen skriver:

Her er et nyt opslag fra en dansk minister om støtten til Ukraine.

Herefter går gruppens deltagere i gang.

Hvis man har tilstrækkeligt mange deltagere og tilstrækkeligt mange konti, kan man på kort tid komme til at dominere et kommentarfelt.

Det er en mulig forklaring på det mønster, jeg har iagttaget. Jeg kan naturligvis ikke dokumentere, at det er præcis sådan, det er foregået på de danske politikeres profiler eller på min egen.

Kunstig intelligens har gjort arbejdet meget lettere

For blot få år siden ville det have krævet en vis sproglig ekspertise at skrive overbevisende kommentarer på dansk.

Det danske sprog er ikke verdens nemmeste, og vi er trods alt kun omkring seks millioner mennesker, der taler det.

Men nu har vi fået kunstig intelligens.

I dag behøver en russer ikke at kunne et eneste ord dansk for at producere en dansk kommentar, der er sprogligt så overbevisende, at man ikke umiddelbart kan se, hvor den kommer fra.

Man kan endda bede en kunstig intelligens om at formulere det samme budskab på 100 forskellige måder.

Forestil dig, at det overordnede budskab er, at Zelenskyj bruger de vestlige landes støtte til at finansiere sit eget luksusliv.

Det kunne fx resultere i følgende tænkte kommentarer:

• Hvorfor skal danske skatteydere betale for Zelenskyjs luksusliv?
• Danske pensionister må spare, mens Zelenskyj får milliarder.
• Hvor bliver pengene egentlig af? Er der nogen, der kontrollerer det?
• Endnu en tiggerturné. Hvornår vågner danskerne op?

Det er fire forskellige kommentarer, der tilsyneladende kunne være skrevet af fire forskellige danskere.

Men det underliggende budskab er det samme.

Man kan altså med ganske få ressourcer producere en stor mængde kommentarer, der ikke umiddelbart fremstår som kopier af hinanden.

Og det er ikke blot en teoretisk mulighed.

OpenAI, der står bag ChatGPT, offentliggjorde i maj 2024 en undersøgelse af blandt andet en russisk påvirkningsoperation ved navn »Doppelgänger«. Her dokumenterede virksomheden, hvordan dens kunstige intelligens var blevet brugt til at producere Ukraine-fjendtlige kommentarer på flere europæiske sprog samt til at oversætte og bearbejde artikler og producere indhold til Facebook.

OpenAI lukkede de pågældende konti.

Man kan læse OpenAIs rapport om skjulte påvirkningsoperationer her.

Russerne kopierer endda vores aviser

Det bliver endnu mere interessant – og uhyggeligt.

Doppelgänger er ikke bare et netværk af falske profiler på sociale medier.

I september 2022 offentliggjorde Meta, der ejer Facebook, en undersøgelse af en russisk påvirkningsoperation, der omfattede mere end 60 hjemmesider, som efterlignede kendte europæiske nyhedsmedier.

Det drejede sig blandt andet om det tyske Der Spiegel, det britiske The Guardian og det tyske Bild.

Hjemmesiderne lignede de rigtige mediers hjemmesider, men artiklerne var produceret af folkene bag påvirkningsoperationen.

Forestil dig, at du på Facebook får et link til en artikel, der tilsyneladende er fra The Guardian. Artiklen fortæller måske om korruption i Ukraine eller om, hvor katastrofalt sanktionerne mod Rusland påvirker den europæiske økonomi.

Du kender The Guardian. Det er et anerkendt britisk medie, og du har derfor en vis tillid til, hvad der står.

Men det er slet ikke The Guardian, du læser.

Du læser russisk propaganda, der er forklædt som britisk journalistik.

De falske artikler blev spredt via blandt andet Facebook, Instagram, Telegram og Twitter.

Meta knyttede senere operationen til to russiske virksomheder.

Man kan læse Metas undersøgelse af det russiske netværk her.

De samme fortællinger går igen

Da jeg skrev artiklen i går, havde jeg opstillet en lille liste over de påstande, der igen og igen dukkede op i kommentarfelterne.

Det er interessant at se nærmere på, hvad de enkelte fortællinger kan bruges til.

Påstand	Muligt politisk formål
Rusland har ikke invaderet Ukraine.	At benægte Ruslands ansvar for krigen.
Rusland ønsker fred.	At fremstille Ukraine og Vesten som ansvarlige for krigens fortsættelse.
Ukrainerne ønsker at overgive sig og afgive land.	At undergrave forestillingen om, at Ukraine kæmper for sin egen frihed.
Zelenskyj er nazist.	At delegitimere den ukrainske regering og retfærdiggøre Ruslands aggression.
Zelenskyj bruger støtten til sit eget luksusliv.	At undergrave tilliden til Ukraine og den vestlige økonomiske støtte.
Pengene burde bruges på danskerne.	At skabe en modsætning mellem danskernes velfærd og støtten til Ukraine.

Den sidste påstand er særlig interessant, fordi den tager udgangspunkt i noget, der naturligvis er helt legitimt at diskutere: Hvordan skal vi prioritere de offentlige udgifter?

Jeg har selv arbejdet med økonomistyring i staten i 30 år, og jeg ved udmærket, at der ikke findes ubegrænsede offentlige midler.

Det er naturligvis ikke russisk propaganda at mene, at der skal bruges flere penge på danske plejehjem, hospitaler eller folkeskoler.

Men en påvirkningsoperation kan udnytte den slags reelle politiske problemstillinger til at skabe splittelse.

Hvis man kan få danskerne til at opleve, at hver eneste krone, der sendes til Ukraine, er en krone, der bliver taget fra deres egen velfærd, har man opnået noget.

Man behøver ikke engang at få danskerne til at sympatisere med Rusland.

Det behøver ikke at hænge sammen

Noget af det, der har undret mig mest, er, at påstandene ikke engang behøver at være indbyrdes logiske.

• Hvis Rusland ikke har invaderet Ukraine, hvorfor skal Ukraine så afgive land til Rusland for at få fred?
• Hvis Rusland ønsker fred, hvorfor trækker Rusland så ikke bare sine tropper tilbage?
• Hvis den ukrainske befolkning ønsker at overgive sig, hvordan kan det så være, at ukrainerne fortsat yder så omfattende modstand?

Men logisk konsistens er ikke nødvendigvis formålet med propagandaen.

Det amerikanske forskningsinstitut RAND har beskrevet en russisk propagandametode under betegnelsen »The Firehose of Falsehood« – en brandslange af usandheder.

Metoden er kendetegnet ved, at der produceres meget store mængder information, at informationen spredes gennem mange forskellige kanaler, at den gentages igen og igen, og at man ikke bekymrer sig synderligt om, hvorvidt de enkelte påstande er sande eller indbyrdes konsistente.

Det handler ikke nødvendigvis om at få modtageren til at tro på én bestemt løgn.

Det kan være tilstrækkeligt at få modtageren til at tvivle på, om der overhovedet findes en sandhed.

Man kan læse RANDs analyse af den russiske propagandamodel her.

Illusionen om flertallet

Det er måske her, vi kommer til det mest interessante.

Forestil dig et opslag på en dansk politikers Facebookprofil.

Lad os for eksemplets skyld antage, at 8.200 mennesker læser opslaget. Af dem støtter de 8.000 Ukraine, mens de resterende 200 er imod støtten.

Men de 8.000 mennesker, der støtter Ukraine, har måske ikke noget særligt behov for at skrive en kommentar. De er enige med politikeren og scroller videre.

Kun 50 af dem skriver en kommentar.

De 200 mennesker, der er imod støtten, skriver derimod hver fem kommentarer.

Så ser regnestykket således ud:

	Støtter Ukraine	Er imod støtten
Antal læsere	8.000	200
Andel af læserne	97,6 %	2,4 %
Antal kommentarer	50	1.000
Andel af kommentarerne	4,8 %	95,2 %

Tallene er naturligvis konstruerede, men de illustrerer en væsentlig mekanisme.

Når den næste almindelige dansker kommer forbi opslaget og kigger i kommentarfeltet, vil vedkommende få det indtryk, at næsten alle danskere er imod støtten til Ukraine.

Virkeligheden i mit tænkte eksempel er den stik modsatte.

Og hvis nogle af kommentarerne ovenikøbet er skrevet af falske profiler, eller hvis én person kontrollerer mange forskellige profiler, bliver billedet endnu mere misvisende.

Når man bevidst konstruerer en tilsyneladende folkelig opbakning, kaldes det på engelsk »astroturfing«. Ordet stammer fra kunstgræs og bruges som modsætning til en ægte græsrodsbevægelse.

Man konstruerer en tilsyneladende folkelig bevægelse, der måske slet ikke eksisterer i det omfang, man får indtryk af.

Et kommentarfelt på Facebook er ikke en meningsmåling.

Det burde vi måske skrive os bag øret, hver eneste gang vi åbner Facebook.

(Artiklen fortsætter under billedet).

Facebooks algoritmer kan hjælpe troldene

Der er endnu en interessant mekanisme.

Facebook lever af, at vi bruger Facebook.

Jo længere tid vi opholder os på platformen, desto flere annoncer kan vi blive præsenteret for.

En kommentar, der får mange reaktioner og svar, kan derfor opnå større synlighed, fordi den skaber aktivitet. Facebooks algoritmer er ganske vist mere komplicerede end som så, og virksomheden forsøger også at begrænse spam og manipulerende adfærd.

Men forestil dig følgende:

En person skriver, at Zelenskyj er nazist.

25 andre mennesker svarer, at det er noget forfærdeligt vrøvl.

Personen svarer dem alle sammen, hvorefter de svarer tilbage.

Pludselig er der måske 100 kommentarer og svar i en tråd, der er begyndt med én enkelt løgn.

Vi, der forsøger at tilbagevise løgnen, kan dermed komme til at bidrage til dens synlighed.

Det er lidt af et paradoks.

Jeg synes ikke, det betyder, at vi skal lade alle løgne stå uimodsagte. Men måske skal vi overveje, hvor mange gange vi skal tilbagevise den samme løgn over for den samme person.

Hvis vedkommende ikke er interesseret i fakta, men blot i at holde diskussionen i gang, har vi måske allerede gjort præcis det, vedkommende ønskede.

Hvordan genkender man en trold?

Det er fristende at tro, at man kan identificere en russisk trold ved at klikke sig ind på vedkommendes Facebookprofil.

Så enkelt er det desværre ikke.

Der er dog en række forhold, man kan være opmærksom på:

• Er profilen nyoprettet?
• Indeholder den stort set ingen personlige oplysninger?
• Består profilens aktivitet næsten udelukkende af politiske opslag og kommentarer?
• Dukker præcis de samme formuleringer op hos flere forskellige politikere?
• Er der en gruppe profiler, der konsekvent understøtter hinandens kommentarer?
• Ignorerer personen dokumentation og skifter blot til en ny påstand, når den foregående er tilbagevist?

Ingen af disse forhold er i sig selv bevis for, at man har med en russisk trold at gøre.

Man kan sagtens være et virkeligt menneske og have et billede af sin kat som profilbillede. Man kan også være et virkeligt menneske og have en helt anden opfattelse af krigen i Ukraine end jeg.

Det er derfor interessant, at Meta i sine undersøgelser lægger vægt på den koordinerede adfærd frem for det politiske indhold alene.

Det afgørende er ikke nødvendigvis, hvad den enkelte person skriver, men hvordan et netværk af konti opfører sig, og om deltagerne forsøger at skjule, hvem de er, og hvad de foretager sig.

Hvad ønsker Putin at opnå?

Det forekommer mig, at det ville være en misforståelse at tro, at Putin nødvendigvis ønsker at få os alle sammen til at sympatisere med Rusland.

Det ville også være et temmelig ambitiøst projekt.

Det kan være tilstrækkeligt at få os til at miste interessen for Ukraine.

At få os til at tænke:

»Vi får nok aldrig sandheden om den krig.«

»Der er sikkert lige meget propaganda på begge sider.«

»Kunne de ikke bare finde ud af at slutte fred?«

»Vi har jo også problemer herhjemme.«

»Hvorfor skal vi blive ved med at betale?«

Hvis tilstrækkeligt mange europæere begynder at tænke sådan, vil det på et tidspunkt kunne få politiske konsekvenser.

Politikerne er afhængige af vælgernes opbakning, og hvis vælgerne mister interessen for Ukraine, kan den politiske vilje til at fortsætte støtten også blive svækket.

Det er efter min opfattelse her, vi skal lede efter en væsentlig del af formålet med den russiske informationskrig.

Rusland behøver ikke at vinde krigen på Facebook.

Rusland skal blot forsøge at få os til at holde op med at interessere os for, hvem der vinder krigen i Ukraine.

Virker det så?

Det er naturligvis det helt afgørende spørgsmål.

Her skal vi passe på med at tillægge de russiske påvirkningsoperationer større succes, end der er belæg for.

OpenAI konstaterede eksempelvis i sin undersøgelse fra maj 2024, at de dele af Doppelgänger-operationen, virksomheden havde undersøgt, ikke så ud til at have opnået nogen væsentlig respons fra almindelige brugere.

En stor del af aktiviteten kom fra netværkets egne konti.

Det er altså ikke givet, at en omfattende påvirkningsoperation er en vellykket påvirkningsoperation.

Man kan producere tusindvis af kommentarer, uden at det nødvendigvis ændrer holdningen hos ret mange mennesker.

Men det ændrer ikke ved, at vi bør interessere os for fænomenet.

For hvor går grænsen mellem en mislykket påvirkningsoperation og en påvirkningsoperation, hvis budskaber efterhånden er blevet så udbredte, at de viderebringes af mennesker, der ikke har nogen forbindelse til de oprindelige afsendere?

Det sidste må være langt vanskeligere at måle.

Hvad kan vi selv gøre?

Jeg tror, vi kommer langt med en god portion kildekritik.

Når vi læser en artikel eller en kommentar, der indeholder en opsigtsvækkende påstand, bør vi spørge os selv, hvor oplysningerne kommer fra.

• Er der en kilde?
• Er det en troværdig kilde?
• Kan oplysningerne bekræftes andre steder?

Og når nogen skriver, at Zelenskyj har købt et luksusresort for de penge, vi har sendt til Ukraine, må det være den, der fremsætter påstanden, der skal dokumentere den.

Det kan ikke være min opgave at dokumentere, at alle tænkelige luksusresorts i verden ikke tilhører Zelenskyj.

Jeg synes også, vi skal være varsomme med at lade antallet af kommentarer påvirke vores opfattelse af, hvad andre danskere mener.

Hvis vi vil vide, hvad borgerne i Danmark mener om støtten til Ukraine, skal vi se på ordentligt gennemførte, repræsentative meningsmålinger.

Vi skal ikke tælle kommentarer på Facebook.

Og endelig skal vi huske, at der er forskel på uenighed og manipulation.

Det er fuldstændig legitimt at være uenig med mig om den danske støtte til Ukraine. Det er også legitimt at mene, at Danmark skal bruge færre penge på Ukraine og flere penge på noget andet.

Men den demokratiske debat forudsætter, at vi så vidt muligt diskuterer på grundlag af virkeligheden.

Fra gasrørene til Facebook

I gårsdagens artikel skrev jeg også om en episode af DR’s podcast Genstart med titlen »Underjordisk krig«.

Den handlede om soldater, der kravler gennem gasrør under jorden for at dukke op et sted, hvor fjenden ikke forventer at se dem.

Det er en næsten ufattelig virkelighed.

Samtidig med at mennesker i Ukraine kæmper under disse forhold, sidder vi i vores lune stuer i Danmark og diskuterer, om det overhovedet er Rusland, der har invaderet Ukraine.

Det er en grotesk kontrast.

Krigen føres med droner, missiler, artilleri og soldater, der kravler gennem gasrør.

Men den føres også på vores telefoner og computere.

Og i den del af krigen er vi ikke nødvendigvis bare tilskuere.

Vi kan selv blive en del af den, hver eneste gang vi deler en artikel, skriver en kommentar eller viderebringer en påstand, hvis oprindelse vi ikke har undersøgt.

Det måske mest skræmmende ved en vellykket påvirkningsoperation er, at den på et tidspunkt ikke længere behøver sine oprindelige trolde.

Almindelige mennesker har overtaget arbejdet – ganske gratis og måske uden overhovedet at ane det.

Slava Ukraini.

Har du kommentarer til artiklen?

Så er jeg glad for at modtage dem i relation til artiklen, dvs. i artiklens kommentarfelt herunder, ikke på Facebook og ikke via Messenger. Det skyldes, at kommentarer og artiklen jo ellers dekobles, og så er din kommentar ikke noget værd i fremtiden. Det er ærgerligt for os begge. Jeg svarer dig også relation til artiklen til morgenkaffen, kl. 13:00, kl. 18:00 eller ved sengetid.

Hvis du ikke tidligere har kommenteret en af mine artikler her på siden, skal din kommentar først godkendes (spamhensyn). Min responstid er under normale omstændigheder kort. Jeg svarer til morgenkaffen, kl. 13:00, kl. 18:00 eller ved sengetid. Herefter vil du stryge lige igennem.