Usynlige vandmærker afslører Claude-teksters AI-oprindelse

Tekst fra AI-systemet Claude vil nu indeholde usynlige vandmærker og metadata som reaktion på EU-lovgivning. Det betyder, at indhold fra AI bliver mærket, hvilket især berører brugere som elever og professionelle skribenter. Vandmærkerne er endnu ikke synlige for læserne, og implementeringen fortsætter.

# Claude mærker sine tekster med usynlige spor

Forestil dig, at hvert brev du skrev automatisk fik et usynligt stempel på bagsiden. Det kan stadig læses og ser helt almindeligt ud, men det afslører, at det kom fra dig. Det er omtrent det, den kunstige intelligens Claude nu gør ved sine tekster. Claude er et AI-system – kunstig intelligens – lavet af selskabet Anthropic, som kan skrive alt fra opgaver til e-mails. Nu får alt, hvad Claude producerer, indbygget usynlige vandmærker direkte i tekstens indhold. Vandmærkerne er skjulte for øjet, og de ændrer ikke teksten på nogen måde. Du kan ikke se dem, du mærker ikke dem, og teksten bliver ikke dårligere af dem. Ud over de usynlige vandmærker vil filer, som Claude genererer, også få en digital signatur – lidt ligesom et segl på et brev – der fortæller, at indholdet er lavet med hjælp fra kunstig intelligens. Det forklarede Anthropic mandag.

Grunden til tiltaget er en ny europæisk lov. EU har vedtaget en såkaldt AI Act – altså en lov om kunstig intelligens – som stiller krav om, at AI-genereret tekst skal bære vandmærker. Anthropic skriver, at selskabet vil arbejde på at sikre, at også ældre versioner af Claude lever op til lovens krav. Præcist hvordan brugere skal kunne finde og aflæse vandmærkerne er endnu uvist. Det bliver meldt ud senere.

Tiltaget rammer en bred skare af brugere. Ifølge Computerworld bruger både LinkedIn-skribenter og skoleelever Claude til at skrive indhold. Mange af dem ønsker måske ikke, at det skal være tydeligt for omverdenen, at deres tekst er AI-genereret. Det er et spørgsmål, der allerede har skabt debat hen over sommeren, particularly omkring elevers brug af kunstig intelligens i skolen. Nu gør de usynlige vandmærker denne diskussion endnu mere aktuel.