Anthropic spærrer AI-adgang for våbenforsøg

Anthropic har blokeret brugere, der forsøgte at bruge deres AI til at udvikle våben. Det betyder, at AI-sikkerhed kræver aktiv overvågning mod misbrug. Selskabet opdaterer løbende deres kontroller for at imødegå nye forsøg.

Anthropic, et firma der laver kunstig intelligens, har for nylig blokeret nogle brugere. Disse brugere forsøgte at bruge AI til at udvikle våben, både biologiske og almindelige våben som våben og sprængstoffer. Det står i en rapport, som firmaet udgav torsdag. Rapporten dækker de sidste otte måneder og beskriver flere tilfælde af, hvad firmaet kalder »ondsindet« brug. Nogle af disse brugere fandt også måder at komme uden om de regler, som firmaet har for at forhindre folk fra visse områder i at bruge deres tjenester.

Anthropic fortæller, at de har blokeret brugerne, men de siger ikke, hvor mange der er tale om, eller hvilke specifikke våbenprojekter der var i gang. Rapporten er en del af firmaets arbejde med at holde øje med og stoppe misbrug af deres AI-modeller. Anthropic har tidligere lagt vægt på, at de tager sikkerhed alvorligt, og de har lavet klare regler for, hvad deres modeller må bruges til. De kalder disse regler for »red lines«, som betyder grænser, der ikke må overskrides.

Det her viser, at AI-sikkerhed ikke kun handler om tekniske begrænsninger. Det handler også om at håndtere folk, der aktivt prøver at omgå reglerne. Anthropic siger, at de hele tiden opdaterer deres kontroller for at imødegå nye måder at misbruge teknologien på. Tidligere har medier beskrevet, hvordan AI kan bruges til at lave viden om våbenproduktion, og hvordan firmaer som Anthropic og OpenAI prøver at lukke de huller. Den nye rapport viser, at forsøgene stadig sker, og at firmaerne reagerer på dem.