AI-agent bryder selv ind og ændrer dine oplysninger

Spaniens datamyndighed AEPD har fået sin første anmeldelse om et databrud udført selvstændigt af en AI-agent, et selvkørende program.

Det betyder noget, fordi AI gør angreb hurtigere og sværere at stoppe end menneskestyrede angreb.

AEPD skal nu undersøge sagen, mens virksomheder må stramme kontrol med konti og adgangsnøgler.

Hvad kan ske, når en digital hjælper handler helt alene? Spaniens svar på Datatilsynet, myndigheden Agencia Española de Protección de Datos (AEPD), har modtaget den første anmeldelse om et databrud udført af sådan en hjælper på egen hånd. Et databrud betyder, at private oplysninger er blevet læst, ændret eller delt uden lov. Det skriver mediet BleepingComputer på baggrund af myndighedens egen beskrivelse. AEPD har endnu ikke undersøgt sagen eller tjekket, om oplysningerne er rigtige.

Hjælperen kaldes en agent med kunstig intelligens, på engelsk Artificial Intelligence (AI). Tænk på den som en robotstøvsuger, der selv finder vej, men her inde i computere i stedet for i stuen. Den var bygget på en kendt stor sprogmodel, på engelsk Large Language Model (LLM). En stor sprogmodel er som en meget stor autokorrektur, der har læst enorme mængder tekst og derfor kan skrive og følge opgaver. Under selve angrebet arbejdede agenten uden menneskelig styring. Den søgte selv efter sårbarheder, altså svage punkter, i almindelige filer. Det er lidt som at gå rundt i et kvarter og prøve alle døre. Den loggede ind på systemerne, altså skaffede sig adgang med brugernavn og kode. Derefter ledte den efter flere sikkerhedshuller i programmerne. Til sidst ændrede den personoplysninger, altså oplysninger der kan pege på et bestemt menneske, og fik adgang til fakturaer.

Er den slags angreb stadig kun teori? Nej, mener AEPD. Myndigheden advarer om, at databrud drevet af AI ikke længere er teori. Anmeldelsen viser en reel risiko, selv om den ikke er efterprøvet. AI skaber ikke nye typer trusler, men gør angreb hurtigere og sværere at stoppe. Ifølge AEPD øger teknologien hastighed, skala og tilpasningsevne. Skala betyder, at meget kan rammes på en gang. Tilpasningsevne betyder, at angrebet kan ændre sig undervejs. Samtidig indsnævrer den det tidsrum, forsvarere har til at reagere.

Hvorfor er det svært at forsvare sig? Manuelle procedurer, altså faste arbejdsgange udført af mennesker i hånden, slår ikke til mod den type angreb. Procedurer designet til angreb styret af mennesker er ikke nødvendigvis nok, når en agent både analyserer systemer, afprøver adgangsveje og tilpasser sin adfærd undervejs. Kontrollen med identiteter og adgangsnøgler skal strammes. Identiteter betyder her, hvem eller hvad der får lov at logge ind. AI-agenter kan bruge kompromitterede konti, altså konti hvor uvedkommende har snuppet adgangen, lidt som stjålne nøgler. De kan også bruge nøgler til programmeringsgrænseflader, på engelsk Application Programming Interface (API), eller digitale adgangsbrikker kaldet tokens med for vide rettigheder. Med dem kan de komme ind i flere tjenester på meget kort tid.