AI-agenter finder sikkerhedshuller på få minutter

AI-modeller finder og udnytter sikkerhedshuller i software ekstremt hurtigt, ofte kort efter de er nævnt. Det betyder, at traditionelle metoder til at holde fejl hemmelige ikke længere beskytter systemerne mod angreb. Udviklere bruger nu AI-værktøjer til at rette fejlene, mens registreringssystemer for sårbarheder kæmper for at følge med.

Kan du forestille dig, at et digitalt låsesystem bliver brudt ind i, kun ti minutter efter at en fejl er blevet nævnt? Det sker for projekter skrevet i programmeringssproget OCaml. Professor Anil Madhavapeddy fra Cambridge, som arbejder med OCaml-compileren (det værktøj, der oversætter computerkode), har set det ske. Han opdagede, at hjemmesider blev angrebet med såkaldte traversal-sekvenser. Det er en teknik, der minder om at bruge et hemmeligt kort til at finde skjulte rum på en hjemmeside, og det sker ofte lige efter, at fejlene er blevet gjort offentlige.

Det skyldes, at moderne sprogmodeller, som er avancerede kunstig intelligenser, er blevet utroligt effektive. Det er næsten som om, man giver en tyv et lille hint, og så kan han pludselig regne hele låsen ud. Madhavapeddy har vist dette ved at bruge agenter, som er AI-programmer, der kan handle selvstændigt. Her afviste modellen Claude Fable opgaven, mens DeepSeek V4 Pro formåede at skabe et såkaldt exploit. Et exploit er i praksis en speciallavet digital nøgle, der kan udnytte en fejl til at bryde ind i et system.

Et tydeligt eksempel er projektet rclone. Her er der modtaget over 40 anmeldelser af sikkerhedsfejl i den seneste måned. Til sammenligning kom der kun 20 anmeldelser i løbet af projektets første ti år. Projektlederen Nick Craig-Wood bruger nu selv AI-værktøjer for at kunne prioritere og rette fejlene hurtigt nok.

Hele systemet bag kulisserne kæmper for at følge med denne fart. Man bruger normalt CVE-numre (Common Vulnerabilities and Exposures), som er unikke id-numre for hver sikkerhedsfejl, så alle kan holde styr på dem. Tiden for at få et sådant nummer via platformen GitHub er steget fra få dage til tre-fire uger. Udviklere må derfor markere rettelser som »pending«, hvilket betyder, at de stadig venter på deres officielle nummer. Det betyder også, at man ikke længere kan stole på embargoer, som er aftaler om at holde en fejl hemmelig, indtil den er rettet.

Vil du have, at jeg forklarer nærmere, hvordan en »traversal-sekvens« egentlig virker i praksis?