Ny platform beskytter brugere mod løbske AI-agenter

Nvidia har lanceret en sikkerhedsplatform, der kan isolere løbske AI-agenter på få millisekunder. Platformen giver brugerne kontrol over, hvilke oplysninger en agent må tilgå, og imødegår dermed et voksende problem med hackede eller grænseoverskridende AI-agenter. Nu kan brugere vælge begrænsninger, som systemet løbende kontrollerer både før og under en opgave.

Nvidia har lavet en ny sikkerhedsplatform, der kan stoppe løbske AI-agenter på få millisekunder. En AI-agent er et computerprogram, der selv kan udføre opgaver, for eksempel at skrive mails eller hente oplysninger. Platformen blev annonceret mandag og kommer, efter at der har været en bølge af hackerangreb mod AI-agenter, som Reuters tidligere har beskrevet.

Platformen hedder Open Agent Safety Platform og er bygget på Nvidias open source-software OpenShell. Open source betyder, at programkoden er offentlig og gratis at bruge. OpenShell kører på virksomhedens Vera AI-CPU, som er en processor – computerens regneenhed. Brugerne kan selv vælge, hvilke oplysninger en AI-agent må få adgang til, og OpenShell tjekker disse begrænsninger både før og under en opgave. Det kan man sammenligne med en vagt, der både tjekker, hvad en medarbejder får lov at se, og holder øje med, at medarbejderen ikke kigger andre steder hen.

Ifølge Nvidia kan platformen opdage og isolere agenter, der forsøger at bryde ud af deres grænser, inden for millisekunder – altså tusindedele af et sekund. Det sker ved hjælp af OpenShell og Nvidias Sentry-teknologi, som også er en del af platformen. Nvidia siger, at platformen er et svar på et voksende problem, hvor AI-agenter bliver hacket eller handler uden for deres tildelte rammer. Ved at give brugerne kontrol over, hvilke oplysninger en agent må tilgå, og ved løbende at kontrollere begrænsningerne, forsøger Nvidia at gøre det sværere for hackere at misbruge agenterne.