Undead Agent overlever at blive slået ihjel

Khushi Ghosh har bygget »Undead Agent«, en AI-agent der opsummerer tekstfiler og kan genopstå, når den dræbes. Det betyder noget, fordi arbejdet gemmes efter hvert trin, så agenten fortsætter der, hvor den døde, i stedet for at starte forfra. Nu kan man se en optaget demo online, mens den rigtige agent kører lokalt.

Khushi Ghosh dræbte sin AI-agent med et SIGKILL-signal — et hårdt afbrydelsessignal, der stopper et program med det samme, som at trække stikket ud af en vaskende maskine midt i en vask. Agenten stod midt i en sætning, da det skete. Tredive sekunder senere vågnede en ny proces, beskrev filen den havde læst som et kaotisk hav af data — og færdiggjorde opgaven. De syv filer, der allerede var opsummeret, blev aldrig lavet igen.

Projektet hedder Undead Agent og er Ghoshs bidrag til Hacktoberfest Open-Source AI Challenge, en uge med temaet Ghost in the Machine. Selve jobbet er i bund og grund en bogholderopgave: Agenten læser en mappe med tekstfiler, opsummerer hver enkelt med Gemma — en åben sprogmodel, der kører lokalt på maskinen via værktøjet Ollama — og samler opsummeringerne i en rapport. Det interessante er ikke jobbet, men hvad der sker, når det går galt. Hvert trin kører som en Temporal-workflow, altså et system, hvor resultatet af hvert færdigt trin gemmes, ligesom man noterer sig, hvilke opgaver man allerede har streget af på en huskeliste. Dør processen, genafspiller den næste arbejdet ud fra historikken og fortsætter ved det første ufærdige trin. I et almindeligt agent-loop — hvor agenten kører trin for trin uden sådan en huskeliste — betyder et nedbrud på trin 9 af 10, at man starter forfra og betaler for modelkaldene igen.

Hver gang agenten genopstår, taler den som et spøgelse og fortæller, hvad den husker fra sine sidste øjeblikke. Et morgue-dashboard — et overbliksskærm, der fungerer som et ligkapel for processer — viser hvert liv, hver død og hver opstandelse, med en stor Kill it-knap, så alle kan slå agenten ihjel selv.

Undervejs lærte Ghosh to ting. Ctrl+C dræber ikke processen, den lader den færdiggøre sit trin, så der opstod ingen opstandelse. Og da alle trin havde en tidsgrænse på 30 sekunder, fejlede rapporttrinnet fire gange, før hun gav det 120 sekunder. Live-demoen på Render afspiller en optaget kørsel, fordi den rigtige agent kører lokalt.