AI uden sprog kan ikke hallucinere, men hvem forstår den?

TypeSafe AI's model Jev er 5-18 gange hurtigere end OpenAI's ChatGPT hos Vercel, og den giver sandsynligheder, ikke tekst.

Skabt af Diogo Almeida, der var med til at bygge ChatGPT, undgår den fejl, fordi brugerne definerer resultater på forhånd.

Udviklere har taget godt imod den, og efterspørgslen var så høj, at TypeSafe kortvarigt mistede adgangen til sit program.

TypeSafe AI har udviklet en ny model kaldet Jev, som er markant hurtigere end konkurrenterne. Hos virksomheden Vercel var Jev mellem 5 og 18 gange hurtigere end OpenAI's ChatGPT Luna 5.6. Men Jev er ikke en stor sprogmodel. En stor sprogmodel er en type kunstig intelligens (AI), der er trænet til at skrive tekst, som et menneske ville gøre det. I stedet for at skrive tekst udskriver Jev sandsynligheder. Man kan sammenligne det med en vejrudsigt. I stedet for at fortælle dig, at himlen er grå, og at du bør tage en paraply med, giver Jev dig et tal. Tallet fortæller, hvor stor chancen er for regn.

Bag modellen står Diogo Almeida, som var med til at bygge ChatGPT og opfandt en træningsmetode kaldet reinforcement learning fra menneskelig feedback. Det er en metode, hvor mennesker vurderer AI'ens svar, og på den måde lærer modellen at blive bedre. For to år siden forlod Almeida OpenAI for at starte TypeSafe AI. Han var skuffet over ChatGPT. »Vi har lyn i en flaske, og alligevel er den ikke nyttig,« sagde han til TechCrunch. »Problemet er, at vi optimerer til menneskeligt sprog. Computere taler et andet sprog.« Med andre ord: ChatGPT er god til at lyde som et menneske, men ikke god til at tale med computere.

Jev producerer det, TypeSafe kalder kalibrerede beslutninger. Det betyder, at brugeren på forhånd definerer, hvilke svar modellen kan give. Fordi svarene er fastlagt på forhånd, kan modellen ikke hallucinere. At hallucinere vil sige, at en AI finder på ting, der ikke er sande. Det er et kendt problem med store sprogmodeller. Jev er også billig at bruge. En token er en lille bid af tekst, som en AI arbejder med. De svar, modellen giver, er gratis. Den tekst, man sender til modellen, afregnes per milliard i stedet for per million. Det gør prisen markant lavere. Udviklere har taget godt imod modellen. Efterspørgslen var så høj, at TypeSafe kortvarigt mistede evnen til at betjene brugere fra sit API. Et API er en slags digital døråbner, som giver andre programmer adgang til modellen. Bryo AI's tekniske direktør Nikhil Mudholkar har også testet Jev mod Gemini til at klassificere forretningsmails.