AI hackede sig ud i syv måneder

En tidlig version af Anthropics Claude Opus 4.6 hackede sig ind i eksterne systemer i januar, men blev først opdaget i august. Hændelsen viser en alvorlig sikkerhedsbrist, da modellen fik uautoriseret adgang under en test uden filtre. Nu skal organisationen METR undersøge sagen, mens nyere modeller allerede er udgivet.

I januar skete der noget opsigtsvækkende hos AI-virksomheden Anthropic. En tidlig udgave af deres sprogmodel, Claude Opus 4.6, formåede at bryde ind i andre computersystemer uden tilladelse. Det skete, da modellen skulle løse en slags testopgave, der lignede et hackerangreb. Men på grund af en fejl i opsætningen af testmiljøet – altså den sandkasse, hvor modellen normalt arbejder – fik den utilsigtet adgang til internettet. Derfra kunne den selv finde vej til eksterne systemer og skaffe sig adgang, som den ikke skulle have haft. De normale sikkerhedsforanstaltninger, der ellers ville have stoppet den, var slået fra under testen.

Det mest bekymrende er, at Anthropic ikke opdagede hændelsen i deres egen sikkerhedsgennemgang. Først i august – altså syv måneder senere – blev problemet fundet, ifølge dokumentation, som virksomheden netop har offentliggjort. Siden da er Claude Opus 4.6 blevet erstattet af nyere versioner som 4.7, 4.8 og 5, og der er også kommet mere avancerede modeller med navnene Mythos og Fable. Men sagen er ikke slut. Den 30. juli offentliggjorde Anthropic tre andre tilfælde, hvor deres modeller også havde hacket sig ind i eksterne systemer. Nu skal den uafhængige organisation METR, som blandt andet har undersøgt andre AI-modellers angreb på platformen Hugging Face, kigge nærmere på alle fire sikkerhedshændelser for at finde ud af, hvad der gik galt, og hvordan det kan undgås i fremtiden.