Mistral Small 4 er åben, men ikke en model til hjemmekontoret
119B-modellen samler ræsonnement, syn og kodeagent i ét system, men Mistrals minimum er flere H100- eller H200-maskiner.
Tilgængelige benchmarks
Mistral oplyser, at Small 4 matcher eller slår GPT-OSS 120B på tre ræsonnementsprøver. På AA-LCR får modellen 0,72 med cirka 1.600 tegns svar, mens sammenlignede Qwen-modeller bruger 5.800-6.100 tegn for et lignende resultat. På LiveCodeBench slår den ifølge producenten GPT-OSS 120B og skriver 20 procent mindre tekst. Det er producentmålinger, ikke en uafhængig test. Der er endnu ikke mindst fire NIel-stemmer, så brugernes oplevelse tælles ikke som en tendens.
Kort om modellen
Small 4 samler almindelig instruktion, ræsonnement, billedforståelse og kodeagent i samme model. Den har 119 milliarder parametre, men en blanding af eksperter aktiverer kun 6,5 milliarder pr. token. Fire af 128 eksperter arbejder ad gangen. Kontekstvinduet er 256.000 token, og ræsonnementsindsatsen kan justeres for hvert kald. Modellen udgives under Apache 2.0.
Krav til maskine
Navnet Small er relativt. Mistrals minimum til drift er fire HGX H100-systemer, to HGX H200-systemer eller én DGX B200. Den anbefalede opsætning er endnu større. Den officielle FP8-model fylder omkring 119 GB på Hugging Face. Der findes NVFP4- og GGUF-udgaver, men producentens lokale driftskrav viser, at dette i praksis er en servermodel. En almindelig 32 GB eller 64 GB computer er ikke det realistiske udgangspunkt.
Link til Hugging Face
Det er uklart: Benchmarkene og hardwareanbefalingerne kommer fra Mistral. NIel har endnu ikke mindst fire brugerstemmer om modellen.
Kilder
- Mistral Small 4 119B 2603 — officielt modelkort huggingface.co
- Introducing Mistral Small 4 mistral.ai