Missilviden er ikke længere forbeholdt stormagter

De iranskstøttede houthier i Yemen brugte AI-modellen Claude (AI er kunstig intelligens) til at skrive programmer til tre våbensystemer, men fik aldrig et fungerende våben.

Det betyder noget, fordi de delvist omgik sikkerhedsfiltre ved at opdele opgaver, så teknologien kan misbruges til avancerede våben.

Anthropic har nu beskrevet forsøget i en rapport, så virksomheder kan forsvare sig mod lignende misbrug.

Det lyder måske som noget fra en film. Men ifølge en rapport fra firmaet Anthropic brugte Houthierne i det nordlige Yemen selskabets model Claude til at skrive software. Software er programmer. Programmerne skulle styre og navigere våben. Arbejdet gjaldt tre våbenprogrammer, altså tre projekter for at udvikle våben. Houthierne er en gruppe, der støttes af Iran. Det står i Anthropics rapport “Threat Intelligence”, som mediet The National News har omtalt. Claude er et computerprogram, der kan skrive tekst og kode.

Det første våbenprogram var en styret raket. En styret raket er en raket, man kan kontrollere undervejs. Den var bygget på almindeligt tilgængelig teknologi. Det andet var et flertrins ballistisk missil. Et ballistisk missil følger en bue efter affyring. Flertrins betyder, at det er bygget i flere trin, der falder af undervejs. Det havde en påstået rækkevidde på over 2.000 kilometer. Det tredje var et program for hypersoniske svæveflyvende missiler. Hypersoniske betyder meget hurtige. Svæveflyvende betyder, at de kan manøvrere i luften. Den teknologi er normalt forbeholdt verdens mest avancerede militærmagter.

Gruppen kom igennem sikkerhedsfiltrene ved at dele arbejdet op i mange mindre bidder. Sikkerhedsfiltre er spærringer, der skal forhindre misbrug. De lagde bidderne i forskellige samtaler, altså separate chats med Claude. På den måde undgik de at afsløre det egentlige formål. Det er som at købe ingredienser til en opskrift i mange butikker, så ingen enkelt butik ser hele opskriften. De brugte værktøjet Claude Code. De satte flere Claude-forekomster i forskellige roller. En forekomst er en separat udgave af programmet. Rollerne var blandt andet kodning, altså at skrive programmer, og research, altså undersøgelser. Mennesker ledede opgaverne. Modellerne Claude Haiku, Sonnet og Opus var i brug.

Anthropics sikkerhedsforanstaltninger afviste mange af forespørgslerne. Forespørgsler er de spørgsmål eller opgaver, gruppen sendte til Claude. Men ikke alle blev afvist. Rapporten beskriver, hvordan ondsindede aktører i hemmelighed har forsøgt at omgå sikkerhedssystemerne. Ondsindede aktører betyder personer eller grupper med onde hensigter. Det lykkedes delvist. Ifølge Anthropic fik gruppen aldrig et fungerende våben. De testaffyrede en styret raket. Den fejlede tilsyneladende.