Anthropic mærker Claude-tekster for at følge EU AI Act

Anthropic indfører vandmærker i tekster fra Claude for at overholde EU AI Acts krav om gennemsigtighed. Lovgivningen kræver, at AI-virksomheder bruger systemer, der gør det muligt at identificere indhold, der er skabt af kunstig intelligens.

Løsningen bygger på SynthID-Text-metoden fra Google DeepMind. Systemet fungerer ved, at modellen træffer små valg mellem synonyme ord, som f.eks. »overskyet« og »grå«, for at skabe et mønster. Dette mønster er usynligt for læseren, men kan findes af alle med den rette nøgle.

Vandmærkningen påvirker ikke kvaliteten af outputtet. Anthropic planlægger at udgive en API til detektering af vandmærkerne. Metoden er fundamentalt anderledes end AI-detektering, der leder efter sproglige kendetegn eller mønstre i teksten.

Let redigering fjerner sandsynligvis ikke vandmærket, men en komplet omskrivning af teksten gør. Beslutningen har ført til kritik på Reddit og X, hvor snesvis af brugere har oplyst, at de opsiger deres abonnement.