TypeSafe AI's Jev overhaler Sonnet 5.5 hos Vercels teams

Inden for to uger efter lanceringen 15. september brugte 35 procent af Vercels betalende teams TypeSafe AI-modellen Jev. Det er ifølge Vercel den hurtigste udbredelse for en model i første to uger og viser efterspørgsel efter billige, hurtige modeller med få forudbestemte svar. Nu fortsætter debatten med hårde tal, der kun dækker Vercels egen adgangstjeneste.

Kunstig intelligens (AI) er programmer, der kan løse opgaver med sprog og mønstre. En model er en bestemt udgave af et sådant program. Hos Vercel brugte 35 procent af de betalende teams inden for to uger efter lanceringen den 15. september modellen Jev fra TypeSafe AI. Det er næsten dobbelt så mange som den næstmest brugte model, Sonnet 5.5. Ifølge Vercels egne tal er det den hurtigste udbredelse, en model har haft i sine første to uger. Jev vælger mellem et lille antal forudbestemte svar i stedet for at formulere sig frit. Lidt som en servicemedarbejder, der trykker på få faste knapper i stedet for at skrive en lang mail. Det gør Jev billigere og hurtigere at køre end alternativer som Sonnet. Og det gør den velegnet til at sortere store mængder data hurtigt.

Jev kom i begrænset udgave. Siden da har den inspireret konkurrerende tilbud fra OpenAI og Amazon. Indtil nu har der været lidt hårde data bag interessen. Vercel var selv tidlig bruger og skiftede sprogmodellen GPT-6 Luna (GPT står for Generative Pre-trained Transformer) ud med Jev til at klassificere skadelige kommandoer.

Tallene stammer fra Vercels AI-gateway. En gateway er en fælles indgang. Her er den en fælles programmeringsgrænseflade (API), en slags tjeneste i stil med OpenRouter. API kan forklares som en fast måde, programmer taler sammen på. Tallene dækker kun trafik gennem den og kan undervurdere store laboratorier som OpenAI og Anthropic, der tilbyder deres egne API'er.

Rapporten viser også, at open source-modeller nu står for over 70 procent af de tokens, der passerer gatewayen, men kun knap 25 procent af forbruget. Open source betyder åben kildekode, hvor alle kan se og bruge opskriften. Tokens er små stykker tekst, som modellen behandler. Samtidig er forbruget hos laboratorierne bag frontmodellerne, de førende modeller, blevet tidoblet. Det støtter idéen om, at frontmodeller og open source-alternativer snarere supplerer end konkurrerer med hinanden.