Jailbrokenne AI-modeller afslører dine API-nøgler og adgangskoder

Forskere har fundet en metode til at udtrække 704 følsomme oplysninger fra skjulte ræsonnementsblokke, som er AI-modellens interne tanker. Det er et sikkerhedsbrud, fordi private data som adgangskoder kan stjæles ved hjælp af andre modeller fra samme udbyder. Opdagelsen afslører, at krypterede data i disse systemer ikke er tilstrækkeligt beskyttede mod misbrug.

Forskere har fundet en måde at se de »hemmelige tanker« hos store AI-modeller fra OpenAI, Anthropic og Google. Modellerne kommunikerer via en Application Programming Interface (API), som er et digitalt bindeled, der gør det muligt for forskellige programmer at tale sammen. Sammen med svarene sender de krypterede blokke. Man kan forestille sig disse blokke som låste kufferter, der indeholder AI'ens interne ræsonnementer. Ved at bruge en såkaldt »jailbroken« model, hvor sikkerhedslåsene er fjernet, kan man få disse kufferter til at åbne sig og afsløre den rå tekst ordret.

Forskerne ledte i 6.708 agenttrajektorier, som er digitale spor af en AI-agents handlinger, på hjemmesiderne GitHub og Hugging Face. Her lykkedes det dem at rekonstruere 315.320 ræsonnementsblokke. Den tekst, de fik ud, passede præcis med antallet af skjulte tokens, som er de små byggeklodser af ord, AI'en bruger til at behandle sprog. Det viser, at man kan genskabe næsten alt, hvad modellen har tænkt undervejs i processen.

Det er problematisk, fordi 704 følsomme oplysninger blev fundet i disse tanker. For 64 af disse fund dukkede informationen slet ikke op i det endelige svar, som brugeren så. Blandt de lækkede data var der 62 API-nøgler, som fungerer som digitale adgangskort, 33 adgangskoder, 24 adgangstokens og 30 private e-mailadresser. Der blev også fundet navne, fysiske adresser og interne oplysninger.

Hvorfor sker det egentlig? Det skyldes, at de låste kufferter med data kan flyttes fra én sammenhæng til en anden. Selvom oplysningerne er skjulte i det program, vi normalt bruger, kan dataene hentes ud. Det sker, hvis man har adgang til en anden model fra samme udbyder, som man kan tvinge til at læse indholdet af blokkene.

Vil du have, at jeg forklarer nærmere, hvordan en »jailbroken« model fungerer i denne sammenhæng?