Større OpenAI-modeller koster mere pr. token

OpenAI bruger versionsnumre som 6.1, der på én gang viser udgivelsesrækkefølge, slægtskab mellem modeller og størrelsen af forbedringen. Det betyder noget, fordi navnene hjælper brugerne med at forstå, hvilke modeller der ligner hinanden, og hvor store forbedringer de kan forvente. Fremover kan man bruge numrene og størrelsesnavnene (Luna, Terra, Sol og Astra) til at vælge den rigtige model til sit behov.

Hos OpenAI er et versionsnummer ikke bare et tal. Det fortæller faktisk tre ting på én gang, forklarer Ted Sanders i en gennemgang af firmaets modelnavne. Tallet viser, i hvilken rækkefølge modellerne er udkommet, hvordan de er i slægt med hinanden, og hvor stor forbedringen er.

Tag et navn som 6.1. Det betyder, at modellen kom efter 5.6 — ligesom kapitel 6 kommer efter kapitel 5 i en bog. Den deler også træningsdata og personlighed med de andre 6.1-modeller, og det er netop derfor, den ikke hedder 5.7. Man kan sige, at 6.1 er et nyt familiemedlem, mens 5.7 ville have været en forbedring af den gamle familie. Og til sidst: Tallet 6.1 signalerer, at springet ikke er stort nok til at bære forventningerne til en hel ny generation, en 7.

Sanders påpeger også, at modellerne er gode til forskellige ting. Den bedste model til matematik er ikke nødvendigvis den bedste til at fortælle jokes — lidt ligesom at den stærkeste svømmer ikke automatisk er den hurtigste løber. Alligevel forklarer én ting meget af forskellen: modellens størrelse. Større modeller er mere pålidelige, koster mere pr. token (altså pr. stykke tekst, modellen behandler) og kan huske flere sjældne fakta. OpenAIs modeller rangerer i størrelse fra Luna over Terra og Sol til Astra — opkaldt efter himmellegemer i stigende størrelse.