AIR henter 50 mio. dollars til at blokere usikre værktøjer i AI-agenter

Sikkerhedsvirksomheden AIR har rejst 50 millioner dollars til at kontrollere værktøjer brugt af AI-agenter. Det er nødvendigt, fordi disse digitale hjælpere ofte mangler sikkerhedskontrol, når de får adgang til virksomheder. AIR tilbyder nu en platform, der kan overvåge agenterne og blokere usikre software-tilkoblinger.

Sikkerhedsvirksomheden AIR har samlet 50 millioner dollars ind for at holde øje med de værktøjer, som kunstig intelligens-agenter bruger. Disse agenter er smarte programmer, der kan udføre opgaver selvstændigt. Pengene kom gennem to såkaldte seed-runder, som er de helt tidlige investeringsrunder for nye firmaer. Sequoia ledte den første runde på 10 millioner dollars, mens Greenoaks ledte den anden på 40 millioner dollars.

For at kunne løse deres opgaver får agenterne adgang til virksomhedens systemer via plugins og MCP-servere (Model Context Protocol servere). Det er små ekstraprogrammer, eller add-ons, der fungerer som digitale værktøjer. Man kan se det som en software-forsyningskæde, hvor programmer flytter sig fra producent til bruger, ligesom varer flyttes i en fragtkæde. Men i dag mangler disse værktøjer de samme sikkerhedstjek og digitale signaturer – en slags elektroniske garantibeviser – som man kender fra drivere, der er små programmer, som får computerens hardware til at tale sammen med styresystemet.

AIR har derfor skabt en platform, der kan finde alle agenterne i en virksomhed og tjekke deres dele løbende. Systemet fungerer lidt som en digital dørvogter. Det kan blokere agenter fra at bruge software eller eksterne kilder, hvis de ikke lever op til sikkerhedskravene. Virksomheden tilbyder også en markedsplads med værktøjer og add-ons, der allerede er godkendt og sikre.

Firmaet er stiftet af Yair Saban og Niv Hoffman. Begge er veteraner fra den israelske efterretningstjeneste Unit 8200. Her arbejdede de med offensiv cybersikkerhed. Det betyder, at de lærte at finde svagheder i it-systemer ved at prøve at angribe dem, så man kan lukke hullerne bagefter.

Vil du have, at jeg forklarer nærmere, hvordan en AI-agent adskiller sig fra en almindelig chatbot?