Din AI-hjælper arbejder også for våbenprogrammer

Anthropics nye rapport beskriver otte måneders misbrug af Claude, hvor især Alibabas Qwen-hold sendte over 151 millioner forespørgsler videre for at kopiere viden. Det betyder noget, fordi data i stor stil kan styrke rivaler, mens brug til missiler, droner og overvågning viser fare uden for computeren. Nu samler rapporten alle fund i én samlet opgørelse fra Anthropic.

Hvad mon der sker, når millioner af spørgsmål bliver sendt videre gennem en andens maskine? Det er et af de spørgsmål, man kan stille sig selv, når man læser Anthropics nye trusselsrapport. En trusselsrapport er her en samlet opgørelse over misbrug. Den samler otte måneders misbrug af Claude. Den peger på kinesiske laboratorier, altså forskningshold i Kina, der sendte forespørgsler videre i stor skala. En forespørgsel er her et spørgsmål sendt til Claude. Videreformidling er som at lade en besked gå gennem mange hænder. Formålet var at trække træningsdata ud af Claude. Træningsdata er det materiale, som Claude lærer af, lidt som opskrifter en kok lærer af. DeepSeek og Moonshot AI nævnes ved navn sammen med Qwen.

Hvor stort var det så? Over 151 millioner udvekslinger kom alene fra Alibabas Qwen-hold. En udveksling er et spørgsmål og et svar frem og tilbage. Det er det største enkeltbidrag i rapporten. Tallet viser omfanget af videreformidlingen alene, lidt som at tælle hvor mange kopier der er taget på en kopimaskine. Rapporten sætter ikke tal på de andre hold.

Kunne det samme værktøj også blive brugt til noget helt fysisk? Rapporten nævner det som et selvstændigt eksempel ved siden af datamisbruget. Aktører brugte Claude til software til missiler. Software er programmer til en computer, lidt som noder til et klaver. Aktører brugte også Claude til autonome kamikazedroner. Autonom betyder selvstyrende, og kamikazedroner er droner, der ødelægger ved at flyve ind i noget, lidt som brevduer der ikke kommer hjem. Rapporten nævner dem sammen med missilsoftwaren. Der er tale om endnu et eksempel på fysisk brug. Aktører brugte desuden Claude til landsdækkende systemer til overvågning. Det er som et net af kameraer over et helt land. Det er det tredje eksempel på brug uden for træningsdata. Rapporten samler dermed både massevidereformidling af forespørgsler og brug til missiler, droner og overvågning i samme opgørelse.