Polske forskere får OpenAI-modeller med cyberevner

CERT Polska fandt i juli seks fejl i MikroTik-routere ved hjælp af OpenAI-modeller; flere kunne kombineres til at overtage enhederne uden login. Det viser, at AI kan finde alvorlige sikkerhedshuller, og at uafhængig kontrol er nødvendig. Nu har NASK og OpenAI underskrevet en aftale om at samarbejde om AI-sikkerhed, og leverandøren har rettet routerne, så angrebene stoppede.

Polens computerberedskab, Computer Emergency Response Team Polska (CERT Polska), fandt i juli seks svagheder — også kaldet sårbarheder — i routere fra MikroTik. En router er som en trafikvagt, der sender internet-trafik videre mellem et netværk og omverdenen. Fundet skete ved hjælp af modeller fra OpenAI. Det er en form for kunstig intelligens (AI), altså programmer, der er trænet på store mængder data og kan løse opgaver. Flere af svaghederne kunne sættes sammen, så nogen kunne tage kontrol over enhederne uden at logge ind. At logge ind svarer til at bruge en nøgle til at få adgang.

Teamet bag fundet hører under et polsk forskningsinstitut, Naukowa i Akademicka Sieć Komputerowa (NASK). Nu har NASK og OpenAI underskrevet en aftale om at undersøge mulighederne for at samarbejde om sikkerhed omkring AI og teknisk forskning. NASKs AI Safety Research Center fungerer som Polens AI-sikkerhedsinstitut. Det er dermed et modstykke til de britiske og amerikanske institutter, som OpenAI allerede arbejder sammen med.

Ifølge aftalen skal parterne se på, hvordan stadig mere avancerede AI-systemer kan vurderes, hvilke sårbarheder de har, og hvordan sikkerheden kan styrkes. Centret forsker blandt andet i at opdage indhold, som AI har skabt, og i de sproglige udfordringer, når samme risiko skal fanges på flere sprog.

Teamet fik adgang til modellerne gennem programmet Daybreak. Her stiller OpenAI modeller til rådighed, som har særlige evner inden for computere og netværk. Leverandøren har sendt rettelser til routerne. Og CERT Polska har bekræftet, at rettelserne stoppede de angreb, som teamet havde set. Tom Duff Gordon, OpenAIs chef for politik i Europa, Mellemøsten og Afrika (EMEA), siger i meddelelsen, at det er afgørende at trække på ekspertise uden for OpenAI for at udfordre egne antagelser og teste systemerne.