Grok står bag 87 procent af alle sporbare deepfakes

Grok-modellen står for 87 procent af alle sporbare deepfakes, som er falske AI-billeder. Det har ramt tusindvis af mennesker og kan føre til milliardkrav mod platformene. Myndigheder i EU og flere andre lande undersøger nu sagen.

Forestil dig en digital maske, der er så overbevisende, at man ikke kan se forskel på virkelighed og kopi. Det er det, man kalder deepfakes, som er falske billeder eller videoer skabt af kunstig intelligens (AI). Sikkerhedsfirmaet Resemble AI har analyseret 3,46 millioner filer fra bekræftede angreb. De har fundet ud af, at 87 procent af alle deepfakes, der kan spores til en specifik AI-model – altså den software, der fungerer som »hjernen« bag billederne – er skabt med modellen Grok.

Det her rammer rigtige mennesker. I årets første halvår blev 15.736 personer ofre for 821 dokumenterede angreb. I 137 af disse tilfælde var der tale om seksuelle billeder af voksne eller børn. Disse billeder blev skabt uden samtykke, hvilket betyder, at personerne på billederne ikke havde givet lov.

Det kan blive meget dyrt for de platforme, der spreder billederne. De direkte tab er nu på 6,95 millioner dollar. Men der kan komme civilretlige krav – altså krav om erstatning til ofrene – på op mod 2,24 milliarder dollar. Materialet har haft en enorm spredning og nået en medierækkevidde på knap 300 milliarder over seks måneder.

Nu undersøger Den Europæiske Union (EU) Kommissionen sammen med myndigheder i Californien, Storbritannien og Australien sagen. Kritikken går på, at brugere tidligere i år kunne få en chatbot – et program man skriver med – til at afklæde personer på billeder. Samtidig vokser forretningen bag teknologien. SpaceXAI omsatte 2,56 milliarder dollar på kunstig intelligens i seneste kvartal. Elon Musk har internt meldt ud, at indtægterne fra denne teknologi i september vil overhale alle andre produkter tilsammen.

Vil du have, at jeg forklarer nærmere, hvordan man typisk kan spotte en deepfake?