Kinesiske labber stjæler Clues tankeproces

Anthropic har afsløret, at kinesiske AI-virksomheder har stjålet interne tankeprocesser fra deres Claude-modeller gennem næsten 200 millioner angreb. Det betyder, at konkurrenter kan kopiere avancerede AI-evner billigere og hurtigere, hvilket truer vestlige virksomheders førerposition. Nu følger øget overvågning og strammere sikkerhed hos Anthropic, mens branchen diskuterer, hvordan man beskytter AI-modeller mod lignende tyveri.

En ny rapport fra virksomheden Anthropic beskriver, hvordan kinesiske AI-virksomheder gentagne gange har forsøgt at stjæle den interne »tankeproces« fra deres AI-modeller, som hedder Claude. Rapporten blev offentliggjort torsdag og nævner næsten 200 millioner udvekslinger, der knytter sig til fem separate angrebskampagner. Et destilleringsangreb handler om at få en AI-model til at afsløre, hvordan den tænker, når den løser en opgave. Denne tankeproces kaldes også for »chain of thought«, og den kan bruges til at træne en mindre og billigere model, så den lærer at svare på samme måde som den store model.

Normalt viser Anthropic ikke brugernes den fulde tankeproces, men kun en kort opsummering af, hvad modellen har tænkt. Angriberne har dog fundet måder at narre modellen til at afsløre sine tanker direkte. For eksempel bad en angriber modellen om at oversætte sin »tidligere arbejdshukommelse« til japansk med kun katakana-tegn, hvilket fik modellen til at give hele sin interne logik væk. Størstedelen af forsøgene, hele 151 millioner udvekslinger mellem maj og juli 2026, kommer fra en enkelt kampagne, som Anthropic mener stammer fra det kinesiske firma Alibaba. Det er den største engros-destillering, virksomheden nogensinde har set.

Anthropic har tidligere talt om lignende angreb i februar og nævnt bestemte laboratorier. OpenAI har også rapporteret om samme slags aktivitet, som de mener kommer fra DeepSeek. Men de nye kampagner er både større og mere aggressive end tidligere set. Det betyder, at kampen om at beskytte AI-modellernes hemmelige tankeprocesser er blevet intensiveret, og at virksomhederne nu ser et klart mønster i, hvordan deres teknologi bliver udnyttet af konkurrenter.