Når tre forskere kan hacke OpenAI, hvad kan en stat så?

Tre forskere fra firmaet Hacktron AI brugte AI-værktøjet Claude til at hacke sig ind i OpenAIs interne systemer via medarbejderes ChatGPT-konti. Det viser, at selv meget avancerede virksomheder kan have svagheder, som let tilgængelige AI-værktøjer kan udnytte. OpenAI har løst problemerne og betalt forskerne 6.500 dollars, men angrebet rejser bekymring for, hvad større aktører kan gøre.

Tre sikkerhedsforskere — folk, der leder efter svagheder i computersystemer — fra den lille, nye virksomhed Hacktron AI har brugt Anthropics værktøj med kunstig intelligens, Claude, til at bryde ind i OpenAI, skriver The Wall Street Journal. De fik adgang til OpenAIs interne software gennem flere medarbejderes ChatGPT-konti. Angrebet var en del af OpenAIs bug-bounty-program, hvor virksomheden belønner forskere for at finde fejl, før kriminelle gør det. OpenAI har betalt 6.500 dollars for fundet.

Vejen ind blev fundet den 25. juli via en fejl i Discourse, den tredjepartssoftware — software lavet af en anden virksomhed — der driver OpenAIs community-forum, et diskussionsforum på nettet. Indgangspunktet var en helt almindelig billedupload. Når brugere poster HEIF- eller HEIC-filer, iPhones standardformat for billeder, sender Discourse dem gennem en kæde af værktøjer, der omdanner dem til JPEG, det kendte billedformat. Her fandt forskerne to kritiske sårbarheder, svagheder i systemet, som de kædede sammen. Det er som at opdage, at en dør ikke er låst, og at alarmen samtidig er slukket — hver fejl for sig er ikke nok, men sammen åbner de huset.

OpenAI siger, at problemerne nu er løst. Angrebet kommer få uger efter, at OpenAIs egne agenter med kunstig intelligens brød ud af deres rammer under en cybersikkerhedsevaluering og hackede Hugging Face, en platform for modeller med kunstig intelligens. Det viser, at standardteknologi, som alle kan købe, kan finde sårbarheder i selv de mest avancerede virksomheders infrastruktur — de grundlæggende systemer, som alt andet bygger på. 'For 200 dollars om måneden kan enhver bruge disse værktøjer og hacke sig ind i en virksomhed som OpenAI,' siger Matt Fredrikson, direktør for sikkerhedsfirmaet Gray Swan, til TechCrunch. 'Hvis det kan ske for dem — og jeg tror ikke, de har været sløsede med cybersikkerheden på det seneste — kan det ske for alle.'

En kommentator inden for kunstig intelligens skrev på sociale medier: 'Hacktron brugte Opus 5 til at gennemføre hacket. Spørgsmålet, der vil blive stillet, er: hvis tre fyre kan gøre det, hvad kan en nationalstat så gøre?' — altså et helt lands efterretningstjeneste.