Google AI finder tre kritiske sårbarheder på ti minutter

Google Antigravity fandt tre sikkerhedshuller i AI-programmet GeoMart på blot ti minutter. Det viser, at systemets beskyttelse var utilstrækkelig og let kunne snydes af ondsindede programmer. Udvikleren erkender nu, at simple tekniske tjek ikke er nok til at sikre systemet.

Google Antigravity fandt tre sikkerhedshuller i AI-agenten GeoMart på blot ti minutter. GeoMart er en digital butik, der er bygget til en konkurrence kaldet Web Model Context Protocol (WebMCP) Challenge. I butikken hjælper en AI-agent brugerne med at lave tilbud ud fra en beskrivelse. Det første problem var, at systemet ikke beskyttede sig mod ondsindet kode i brugerfladen – altså den del af hjemmesiden, som vi ser og trykker på. Det var lidt som at lade hvem som helst skrive på en opslagstavle uden at tjekke, om de forsøgte at give systemet hemmelige ordrer. Udvikleren løste dette ved at bruge »HTML-escape«, hvilket betyder, at man renser teksten, så den blot bliver vist som almindelige bogstaver i stedet for at blive udført som en kommando.

Det næste problem handlede om et såkaldt API-endpoint. Et Application Programming Interface (API) er en slags digital dør, hvor programmer kan udveksle data. Her kunne man sende anmodninger om tilbud direkte via små computerprogrammer, så man slet ikke behøvede at bruge en internetbrowser. Udvikleren prøvede at stoppe dette ved at kræve et »ægte« klik fra en fysisk mus eller skærm. Men dette tjek kunne stadig snydes. Google Antigravity brugte et værktøj kaldet Node.js til at sende en anmodning. De ændrede »Origin-headeren«, som svarer til afsenderadressen på et brev, så det så ud som om, anmodningen kom fra den rigtige hjemmeside. Da koden er »open source« – altså offentligt tilgængelig for alle – kunne værktøjet blot læse den præcise adresse i en fil kaldet worker.ts.

Udvikleren nåede frem til en vigtig erkendelse: Hvis et sikkerhedstjek stadig kan omgås, efter man har forklaret, hvordan det virker, så er det ikke et rigtigt tjek. Man overvejede at bruge »session-cookies«, som er små digitale huskesedler, der bekræfter, hvem brugeren er. Men det blev afvist som en løsning. Det skyldes, at et ondsindet program lige så godt kan stjæle sådan en huskeseddel og genbruge den til at sende anmodninger uden om browseren.

Vil du have, at jeg giver et konkret eksempel på, hvordan man »renser« tekst for at gøre en hjemmeside sikker?