PaperPlanes stopper AI-hallucinationer med tidsstyret hukommelse

PaperPlanes er udviklet som en AI-assistent, der bruger en avanceret database til at huske information mere præcist. Det forhindrer »hallucinationer« (falske svar), da systemet gemmer modstridende oplysninger i stedet for blot at overskrive dem. Brugeren kan nu se AI'ens tidligere viden, mens assistenten selv kan analysere sin egen hukommelse.

At have et kæmpe »kontekstvindue« – som er den mængde information, en kunstig intelligens kan overskue ad gangen – svarer lidt til at have et enormt skrivebord. Selvom bordet er stort, betyder det ikke nødvendigvis, at man husker alt korrekt. I normale databaser kan nye oplysninger nemlig komme til at overskrive gamle, eller blive blandet sammen i et rod. Det skaber støj, som kan føre til »hallucinationer«, hvor maskinen begynder at digte eller påstå ting, der ikke passer.

For at løse dette er PaperPlanes skabt som en forskningsassistent, der kan huske sin egen tilstand. Systemet er bygget på viden fra seks akademiske artikler, herunder teknologier som Zep, Mem0, A-MEM og Letta. Det kører på Amazon Web Services (AWS) Bedrock og bruger modellerne Amazon Nova Pro og Titan Embeddings til at behandle og forstå data.

Hjertet i systemet er en database, der hedder CockroachDB, som bruger en såkaldt »bi-temporal struktur«. Det fungerer som en slags historisk tidslinje. I stedet for at slette gammel viden, når noget nyt kommer til, gemmer systemet begge dele. Hvis to kilder siger noget forskelligt, markerer maskinen dem blot som omstridte. Man kan endda bruge en skydeknap i programmet til at rejse tilbage i tiden og se præcis, hvad den kunstige intelligens troede var sandt i sidste uge.

Selve Amazon Nova-agenten kanstille spørgsmål til sin egen hukommelse ved hjælp af Structured Query Language (SQL), som er et sprog til at tale med databaser. Det sker gennem en Model Context Protocol (MCP) server, der giver modellen lov til at kigge på databasens struktur uden at ændre i den. For at undgå fejl, når mange ting sker på én gang, bruger systemet »serialiserbar isolation«. Det betyder, at alle opdateringer i hukommelsen sker i en streng, ordnet rækkefølge, så ingen informationer går tabt i kampen om pladsen.

Vil du have, at jeg forklarer nærmere, hvordan »tidsrejse-funktionen« i databasen fungerer i praksis?