EU-regler tvinger Anthropic til at mærke alt, hvad Claude skriver

Anthropic vil sætte usynlige mærker i tekst fra deres AI-modeller, så man kan spore den tilbage til modellen. Det sker, fordi EU kræver, at AI-genereret indhold skal kunne identificeres. Andre selskaber som Google gør det samme, og flere vil sandsynligvis følge efter.

I fremtiden kan det blive sværere at vide, om en tekst er skrevet af et menneske eller af kunstig intelligens. Store firmaer, der udvikler AI, begynder nemlig at sætte usynlige mærker ind i alt den tekst, deres modeller producerer. Det fortæller firmaet Anthropic til nyhedsmediet CNN.

Forestil dig et digitalt fingeraftryk. Vandmærket fungerer ligesom et usynligt stempel sat ind i bogstavernes rækkefølge. Det er helt skjult for vores øjne, men et specialprogram kan læse det og fortælle, præcis hvilken AI der har skrevet teksten. Det svarer til, at hvert dokument fik en usynlig stregkode på, som kun en computer kunne scanne.

Dette sker, fordi EU har vedtaget et nyt regelsæt, EU AI Act, der stiller krav om, at visse former for AI-genereret indhold skal kunne spores. Derfor er Anthropic ikke de første. Google gør det allerede med deres Gemini-modeller, mens OpenAI endnu ikke har meldt lignende ud.

Tendensen viser, at regler fra EU nu direkte påvirker, hvordan teknologien udvikles. Sporing af AI-tekster bliver et lovkrav, ikke bare et valg firmaerne kan tage.