Cloudflares AI henter felter uden at generere tekst

Cloudflare har frigivet Clairic, der udtrækker felter som ordrenummer og beløb fra dokumenter i ét gennemløb og angiver en sikkerhedsscore. Det betyder noget, fordi den kan indgå i en kæde med beslutnings- og sprogmodeller og gøre arbejdet hurtigere og billigere. Clairic er kun i forhåndsvisning, den underliggende model bliver snart frit tilgængelig, og længere beregninger må udviklerne selv kode.

Cloudflare har udgivet en ny model. En model er et computerprogram, der er trænet til at løse en bestemt slags opgave. Denne her læser et dokument igennem i ét enkelt gennemløb og plukker de oplysninger ud, du beder om — i stedet for at skrive tekst stykke for stykke, som en sprogmodel gør. Du angiver de felter, altså de rubrikker, du vil have udfyldt, for eksempel et ordrenummer eller et fakturabeløb. Så svarer Clairic med værdierne i det format, du ønsker, og giver samtidig en slags karakter for, hvor sikker den er på svaret. Det er som en medarbejder, der læser et brev og udfylder en formular — frem for en, der skriver hele brevet om ord for ord.

Mangler der en oplysning i dokumentet, svarer modellen »null«, som betyder tomt eller ingenting. Den kan også lave simple beregninger, skøn og fremskrivninger. Ifølge Cloudflare er Clairic tænkt som ét led i en større kæde sammen med egentlige sprogmodeller. Deres eget eksempel er en klage-mail: Clairic finder ordrenummer, beløb og skade og anslår en reparationspris. Beslutningsmodellen Clef afgør så efter firmaets regler, om kunden skal have pengene retur eller en reparation. Til sidst skriver sprogmodellen GLM-5.3 svaret.

Ifølge Cloudflare tager hele den kæde 19,3 sekunder. GLM-5.3 alene bruger 61,7 sekunder på de samme tre trin og koster næsten det dobbelte. Det svarer til at sende en opgave gennem et lille team, hvor hver person laver det, de er bedst til, i stedet for at én person skal klare det hele.

Lige nu er Clairic kun i forhåndsvisning, altså en slags smagsprøve, på Cloudflares platform Workers AI. Snart følger de såkaldte åbne vægte — modellens indmad, som andre kan hente. Cloudflare oplyser samtidig, at modellen endnu ikke klarer længere kæder af beregninger pålideligt. Dem må udviklerne selv køre i deres eget program.