Anthropic indfører usynlige vandmærker i Claude for at følge EU-regler

Anthropic indfører usynlige vandmærker i Claude for at overholde EU's AI Act. Reglerne kræver, at syntetisk tekst, lyd, billeder og video får maskinlæsbare mærker, så indholdet kan identificeres som kunstigt genereret eller manipuleret.

Vandmærkningssystemet er en version af den open source-teknologi, SynthID-Text, som Google DeepMind har udviklet. Teknologien skaber detekterbare mønstre i teksten ved at bruge sandsynlighedsberegninger for ordvalg.

Systemet bruger de valg, hvor flere ord er næsten lige sandsynlige og ikke ændrer meningen i sætningen. Normalt ville modellen bruge en tilfældig talgenerator til at vælge mellem disse ord. Nu bruger den i stedet en nøgle og de foregående ord i teksten til at træffe beslutningen. Det skaber et mønster, som er usynligt for læseren, men som kan findes af dem, der har den korrekte nøgle.

Vandmærkningen påvirker hverken prisen for brugerne eller kvaliteten af det genererede indhold. Som en del af indsatsen for gennemsigtighed indfører Anthropic også understøttelse af C2PA til billeder, som Claude har behandlet. C2PA-standardens formål er at gøre det muligt at verificere oprindelsen af digitale billeder.