AI-agenter retter egne fejl uden menneskelig hjælp

Forskere har udviklet Procedural Graphs, et system der giver AI-agenter en selvopdaterende plan for handlinger og rækkefølge.

Systemet betyder noget, fordi det retter fejl automatisk og klarer sig bedre end tidligere metoder på tværs af opgaver.

Nu vil systemet blive testet videre, og afviste ændringer gemmes for at undgå gentagne fejl.

Tænk på en AI-assistent, der skal lave mad efter en opskrift. Normalt husker den alle sine tidligere skridt og gætter sig frem til næste handling, hvilket kan gå galt, hvis den bliver forvirret. Forskere fra Google, Georgia Tech og Peking University har nu udviklet et system kaldet Procedural Graphs, som giver AI'en et klart og altid opdateret kort over, hvad den skal gøre, og i hvilken rækkefølge. I stedet for at gætte ud fra en lang historik, kan AI'en slå op i dette kort og se præcis, hvad næste skridt er. Kortet er bygget op af forbindelser mellem handlinger, lidt som en køreplan, hvor hver handling er et vejkryds, og pilene viser, hvilken vej man skal tage.

Systemet er dog ikke en streng kommandør. Når AI'en er i gang, finder systemet ud af, hvor på kortet den befinder sig, og giver et forslag til næste skridt. AI'en kan selv vælge at følge forslaget eller afvige fra det, hvis den vurderer, at kortet tager fejl. Det smarte er, at kortet ikke er statisk. Hvis AI'en laver en fejl, sammenligner systemet det fejlslagne forløb med et vellykket forløb og retter automatisk i kortet. Men ændringen bliver kun gennemført, hvis den faktisk gør AI'en bedre til at løse opgaven. Hvis en rettelse ikke virker, bliver den gemt, så systemet ikke foreslår den samme fejl igen.

Forskerne viser, at systemet kan rette op på dårlige udgangspunkter. Selv hvis man starter med et kort, der er fyldt med fejl, vil systemet langsomt forbedre det i stedet for at arve fejlene. På tværs af mange forskellige tests og opgavetyper klarer Procedural Graphs sig bedre end ældre metoder, der udelukkende stoler på hukommelse. Og fordi kortet opdaterer sig selv, bliver AI'en bedre og bedre uden at mennesker behøver at blande sig. Det er en måde at give AI'en en form for sund fornuft, der hele tiden bliver skarpere.