AI-modeller sænker barren for hacking

Tre forskere brugte Claude-modeller til at bryde ind i OpenAIs interne systemer via et forum på under 72 timer.

Det viser, at nyere AI kan finde og angribe sikkerhedshuller hurtigere og lettere, også hos store virksomheder.

Forskerne har ikke offentliggjort detaljer, så det er uvist, hvad der sker nu, men angrebet viser, at AI kan bruges til angreb.

Tre sikkerhedsforskere har gjort noget opsigtsvækkende. De brugte en kunstig intelligens-model, altså et computerprogram, der kan lære og løse opgaver, til at bryde ind i OpenAIs interne systemer. Det er de systemer, som OpenAI bruger bag kulisserne til at drive deres tjenester. Angrebet skete gennem OpenAIs community-forum, som er et offentligt sted på internettet, hvor brugere kan skrive beskeder og dele ideer. Hele angrebet tog under 72 timer. Det lykkedes med en AI-model ved navn Claude Opus 5, som er lavet af firmaet Anthropic. Den tidligere model kunne ikke omgå en almindelig sikkerhedsforanstaltning, men Opus 5 kunne. Det viser, at nyere AI-modeller kan gøre det hurtigere og nemmere at finde og udnytte svagheder i digitale systemer.

Forskerne har ikke offentliggjort detaljer om, hvilke systemer de fik adgang til, eller hvordan de præcist gik frem. Men angrebet viser noget vigtigt: AI-modeller kan bruges til at angribe systemer, ikke kun til at forsvare dem. Før krævede den slags angreb stor ekspertise og lang tid. Nu kan en stor del af arbejdet overlades til modellen. Det sænker barrieren for at udføre komplekse sikkerhedsangreb. Selv store virksomheder som OpenAI kan være sårbare over for automatiserede angreb. At det tog under 72 timer er markant hurtigere end traditionelle manuelle angreb, som ofte tager uger eller måneder.

Det interessante er, at selv mindre forbedringer i modellernes evner kan have stor betydning for sikkerheden. Opus 5 kunne omgå en foranstaltning, som dens forgænger ikke kunne. Det tyder på, at vi skal tænke grundigt over, hvordan vi beskytter systemer, i takt med at AI-modeller bliver bedre og bedre. Angrebet er et eksempel på, at teknologi, der kan bruges til at skabe og forsvare, også kan bruges til at bryde ind. Det er en påmindelse om, at sikkerhed ikke er noget, man kan tage for givet.