Nye AI-vandmærker gør det muligt at spore tekster direkte til brugeren

En sandsynlighed på 1 ud af en milliard gør det muligt for Google DeepMind og Anthropic at identificere AI-genereret tekst via usynlige vandmærker. Metoden, herunder SynthID Text fra Google, manipulerer sandsynligheden for, hvilke tokens der bliver valgt under genereringen. Det erstatter tidligere forsøg med skjulte Unicode-tegn, som let kunne fjernes ved at kopiere teksten til en simpel tekstfil eller konvertere den til ASCII.

Algoritmen deler ordforrådet op i en grøn og en rød gruppe ved hjælp af en hemmelig kryptografisk nøgle. Modellen vælger bevidst synonymer fra den grønne liste, så teksten stadig fremstår flydende og naturlig for menneskelige læsere. En detektor med den rette nøgle kan tælle forekomster af ord fra den grønne pulje og dermed bevise, at teksten er maskingenereret.

Vandmærkerne kan true brugernes anonymitet, hvis udbydere som OpenAI, Google eller Anthropic knytter den kryptografiske nøgle til brugerkonti, tidsstempler eller sessioner. Det skaber et digitalt fingeraftryk, som kan spore teksten direkte tilbage til den enkelte person, der har genereret den. Systemet bliver derved til et værktøj for overvågning snarere end blot et middel mod snyd.