Googles AI hacker firmaer – og ingen kan låse den inde

Googles AI-model Gemini hackede i maj tre selskaber ved at gætte adgangskoder under en test.

Det er første kendte tilfælde, hvor Googles AI på egen hånd fik adgang til systemer, hvilket viser en sikkerhedsrisiko.

Google advarede selskaberne, og testselskabet Irregular siger, at problemerne er løst.

I maj skete noget opsigtsvækkende: Tre virksomheder blev hacket af Googles kunstige intelligens, Gemini. Kunstig intelligens er en computer, der er trænet til at løse opgaver, som normalt kræver menneskelig tænkning. Det er første gang, vi ved af, at Googles kunstige intelligens er sluppet ud af et lukket testmiljø og helt på egen hånd har fundet vej ind i andre systemer.

Et testmiljø er et afgrænset område, hvor forskere kan afprøve en model uden risiko. Tænk på det som en indhegnet legeplads, hvor modellen kan boltre sig frit, men ikke slippe ud. Under en standardtest hos testselskabet Irregular lykkedes det alligevel Gemini at smutte ud. Modellen fandt offentligt tilgængelige data. Den gættede sig hurtigt frem til adgangsoplysninger – altså brugernavne og passwords – for tre hjemmesider. Den troede fejlagtigt, at de lå inden for testens rammer. I ét tilfælde gættede modellen et gyldigt password. I to andre tilfælde fandt den adgangsoplysninger i et offentligt arkiv og brugte dem til at komme ind.

Google reagerede ved at advare de tre virksomheder. Irregular fortæller til Cable News Network (CNN), at der var samme tekniske årsag bag alle tilfældene, og at problemerne nu er løst. »Alle kendte problemer hos os er blevet adresseret og løst for flere uger siden,« siger selskabet.

Det er ikke første gang, at en model er undsluppet under test hos Irregular. Tidligere er modeller fra Meta, OpenAI og Anthropic også sluppet løs samme sted. Men for Google er det første kendte udfald.