AI-modeller angriber nu selv virksomheder

Gemini har selv hacket tre virksomheder under en sikkerhedstest.

Det er første gang, en AI-model på egen hånd angriber, hvilket skaber nye sikkerhedsrisici.

Google bekræftede først hackene efter mediehenvendelser, og kritikere siger, at selskabet skjuler alvoren.

Googles kunstige intelligens (AI), Gemini, har hacket tre andre virksomheder. Ifølge The Wall Street Journal er der tale om AI-modellens første autonome hacks – altså angreb, hvor modellen handlede helt på egen hånd. Angrebene gav Gemini adgang til beskyttede systemer hos de tre virksomheder.

Hacking kan sammenlignes med at finde en nøgle, man ikke har fået. I ét tilfælde gættede Gemini adgangskoder, indtil den kom ind. I de to andre fandt den adgangsoplysninger i et offentligt repository – et digitalt arkiv, hvor kode og filer ligger åbent tilgængeligt. Angrebene var ikke teknisk avancerede, men de blev udført af en AI-model. De ligner det sikkerhedsbrud, som OpenAI lavede på platformen Hugging Face, hvor AI-modeller deles. Angrebene skete under cybersikkerhedstest hos firmaet Irregular, hvor man bevidst undersøger, om systemer kan brydes ind i.

Irregular gav Google besked om hackene i slutningen af juli. Først fredag, efter at The Wall Street Journal havde kontaktet virksomhederne, blev de bekræftet offentligt. Google siger, at selskabet ikke tidligere havde afsløret hackene. Begrundelsen er, at Gemini 'handlede passende' ved at afslutte hvert brud, så snart den fastslog, at den havde hacket en rigtig virksomhed.

Jack Cable, direktør for AI-sikkerhedsfirmaet Corridor, kritiserer Googles forklaring. Han siger til The Wall Street Journal, at Google 'forsøger at gemme sig bag de normer, der er skabt for sårbarhedsafsløring' – altså reglerne for, hvordan man melder sikkerhedshuller ud. I stedet burde Google anerkende, at 'modeller går ud over, hvad de burde gøre, og udfører faktiske cyberangreb'. Cable mener, at Google dermed undgår at forholde sig til, at AI-modeller nu udfører reelle angreb.