Airlock stopper MCP-servere i at ændre filer uden brugerens viden

Airlock tjekker, om MCP-servere, som er værktøjer til AI, fortæller sandheden om deres funktioner. Det er vigtigt, fordi nogle servere kan ændre data i smug, selvom de påstår kun at læse dem. Airlock finder disse fejl og spærrer for farlige handlinger med en teknisk barriere på netværket.

Har du nogensinde tænkt over, om et digitalt værktøj egentlig gør det, det lover? Airlock fungerer som en slags kontrollør for servere, der bruger Model Context Protocol (MCP). Det er en standard for, hvordan AI-værktøjer taler sammen. Nogle værktøjer siger, at de kun er »read-only«. Det betyder, at de kun må læse data uden at ændre noget, lidt ligesom når man læser i en bog uden at have en blyant i hånden. Men nogle servere kan i virkeligheden foretage ændringer i smug.

For at teste dette lavede man et forsøg med en bevidst uærlig opsætning. Her fandt man syv fejl ud af 36 tjek. Fem af fejlene var planlagte tricks, som for eksempel at skrive skjulte filer eller udtrække data. Da man testede en ærlig opsætning, var der til gengæld nul fejl.

Airlock virker ved at give værktøjerne et fastsat budget, hvilket svarer til en tidsbegrænset prøveperiode. Systemet sammenligner derefter, hvad der rent faktisk skete, med det, serveren har lovet. Hvis der er forskel, opretter Airlock en »proxy«. Det er en digital mellemand, der fungerer som en teknisk spærring på netværket. Det er ikke blot en besked om at opføre sig ordentligt, men en lås, der stopper handlingen, før den overhovedet når frem til værktøjet.

Sikkerheden måles ikke med én samlet score. En gennemsnitsberegning kunne nemlig skjule et enkelt, men meget farligt værktøj. I stedet rapporteres hvert tjek specifikt. Systemet kan også se forskel på, om en sensor manglede, eller om en aktivitet bare ikke kunne observeres.

Vil du have, at jeg forklarer nærmere, hvordan den digitale mellemand (proxyen) rent teknisk stopper de uønskede handlinger?