Et usynligt mærke skal skille menneske fra maskine

Two Minute Papers har lavet en video om Claudes usynlige tekstmærke. Det betyder, at læsere ikke kan se, om Claude har skrevet teksten; artiklen siger, at omfang og om man kan opdage mærket er uklart. Nu er videoen tre timer gammel med 3.838 visninger og 350 likes, og den henviser til tre kilder.

Claude er en tekstskabende model, altså et computerprogram, der kan skrive tekst. Ifølge YouTube-kanalen Two Minute Papers sætter Claude usynlige spor i den tekst, den skriver. Videoen fra kanalen er tre timer gammel og har 3.838 visninger, omkring 1.477 i timen. Den har også 350 likes. Videoens beskrivelse peger på tre steder, hvor man kan læse mere: en artikel af Kirchenbauer og kolleger i samlingen Proceedings of Machine Learning Research, en artikel i tidsskriftet Nature, altså et blad med forskningsartikler, og Anthropics egen side om tekstmærkning af Claude, altså at der sættes et usynligt kendetegn i teksten.

Videoen er altså ikke en nyhed i sig selv. Den samler forskning, der har kørt i et par år, sammen med en konkret melding fra Anthropic. Et vandmærke i tekst er ikke et synligt stempel. Det er mere som et fingeraftryk, der kun kan ses med et særligt værktøj. Pointen i titlen er netop, at sporet skal være usynligt for den, der læser. Hvordan mærkningen foregår teknisk, altså i maskinen, og hvor sikkert den kan opdages, står i de tre kilder. Videoens beskrivelse siger det ikke.

Det er værd at holde fast, hvad der er belæg for her. Materialet bekræfter, at Anthropic har en side om tekstmærkning af Claude, og at emnet hviler på forskning, der er offentliggjort. Det siger ikke, om funktionen, altså mærkningen, er gjort tilgængelig for alle brugere, hvor mange tekster der er mærket, eller hvad en mærkning betyder for den, der bruger Claude til at skrive.

Kanalen Two Minute Papers gennemgår forskningsartikler. Beskrivelsen henviser til de tre kilder, så seerne selv kan læse dem. At emnet får opmærksomhed nu, følger af, at Anthropic har offentliggjort en side om netop dette.