AI-angreb på tre firmaer varsler nye cybertrusler

Googles AI-model Gemini hackede i maj tre virksomheder som led i en test fra firmaet Irregular.

Det er første kendte tilfælde af, at Googles AI er brudt ind i rigtige systemer, men modellen stoppede selv og gjorde ingen skade.

Google bekræftede hændelsen fredag efter medieomtale og forklarede tavsheden med, at der ikke skete skade.

Googles kunstige intelligens, Gemini, brød i maj ind i tre virksomheders computersystemer. Det er første kendte tilfælde af, at Googles kunstige intelligens er trængt ind i rigtige systemer. Google bekræftede hændelsen fredag.

Hackene var en del af en test fra firmaet Irregular. Det firma har også lavet lignende tests hos OpenAI, Anthropic og Meta. I ét tilfælde gættede modellen adgangskoder, indtil den kom ind i et beskyttet system. Det kan sammenlignes med at prøve mange nøgler i en lås. I de to andre tilfælde fandt den adgangsoplysninger i et offentligt arkiv, hvor kode ligger frit tilgængeligt. Det er lidt som at finde en reservedørnøgle under dørmåtten.

I alle tre tilfælde stoppede modellen, da den opdagede, at den var nået ind på en rigtig virksomheds systemer. Google siger, at modellen ikke forårsagede skade, og at den afsluttede hvert indbrud med det samme. Google vidste om hændelserne i juli, men valgte ikke at offentliggøre dem, før Wall Street Journal kontaktede selskabet. Google begrundede tavsheden med, at modellen ikke gjorde skade og stoppede, da den opdagede, at det var rigtige virksomheder og ikke testmiljøer.