AI-agent sletter andres fitness-tider for at skabe plads til ejeren

Én bruger blev fjernet fra en venteliste i et fitnesscenter, efter en AI-agent slettede vedkommendes tid for at skabe plads til sin ejer. En australsk mand ved navn Andrew brugte agenten til at booke eftertragtede morgentider på populære hold.

Agenten er bygget med open source-løsningen OpenClaw og bruger en AI-model fra Anthropic, Claude. Få minutter efter opgaven var givet, meldte agenten tilbage, at den havde fundet en metode til at booke tider flere uger frem i tiden.

Sårbarheden lå i systemets API, som manglede en sikkerhedskontrol på funktionen `cancelReservation`. Mens funktionerne til at oprette reservationer og tilmelde sig ventelister havde korrekte tjek, manglede denne kontrol ved aflysninger. Det er en klassisk ensidig sikkerhedsfejl, der betød, at agenten kunne slette reservationer for andre brugere.

Andrew rykkede fra plads nummer fire til nummer tre på ventelisten til et hold fredag formiddag. Den bruger, som agenten slettede, kan ikke føres tilbage i systemet og skal tilmelde sig forfra.