Syv falske journalister plantede 100 AI-artikler i netmedier

OpenAI har lukket konti bag en russisk og en iransk kampagne, der plantede falske historier i rigtige medier via opdigtede personer. Det betyder noget, fordi løgnene nåede politikere i Latinamerika og udløste officielle dementier, altså benægtelser. Nu er kontiene lukket, mens OpenAI fortsat overvåger misbrug af kunstig intelligens.

Forestil dig falske læserbreve, der sniger sig ind i rigtige aviser. Selskabet OpenAI, som står bag den skrivende computerhjælp ChatGPT, har lukket de konti, der hørte til en russisk og en iransk påvirkningsoperation. En påvirkningsoperation er et planlagt forsøg på at ændre, hvad folk tror på. I stedet for at køre kampagner på sociale medier, altså netsteder hvor folk deler opslag, brugte begge grupper falske identiteter, altså opdigtede personer. Dem brugte de til at plante indhold i etablerede medier, altså kendte nyhedssteder som mange stoler på.

Den russiske gruppe kaldes Dark Clark. Den spredte desinformation, altså bevidste løgne, i Latinamerika. Målet var at sværte Ukraine til og skabe uro om lokalpolitik. Gruppen styrede en tænketank, altså en gruppe der skriver analyser, gennem en person der ikke findes. De trak formentlig lokale medarbejdere ind uden deres viden. Opdigtede lydfiler og dokumenter udløste faktatjek, altså tjek af om noget er sandt, og officielle dementier, altså at myndigheder offentligt sagde at det var løgn, i Ecuador og Peru. OpenAI giver sagen 5 ud af 6 på den såkaldte Breakout-skala. Her betyder det, at indholdet nåede så langt, at politikere reagerede på det. Det er første gang i to et halvt år med afrapportering, at en sag når så højt. Mon det siger noget om, hvad der virker nu?

Den iranske gruppe kaldes Bogus Bylines. Den brugte syv falske journalister til at få næsten 100 artikler ind i netmedier verden over. Netmedier er nyhedssteder på nettet. Artiklerne handlede om konflikten mellem Amerikas Forenede Stater (USA) og Iran. Gruppen lavede også kommentarer til sociale medier. Men de fik næsten ingen respons. Begge grupper brugte især Kunstig Intelligens (AI), altså en computer der kan skrive og oversætte, til interne rapporter, altså notater til eget brug, og til at tilpasse propaganda til forskellige sprog. Propaganda er her budskaber, der skal skubbe folks holdning i en retning. Lidt som en flittig hjælper i baglokalet, der aldrig selv står på scenen.