Unsloths nye model kræver hele 130 GB RAM

Unsloth kan nu køre dine instruktioner automatisk efter en plan og gemme hvert svar som en ny chat. Det gør gentagne opgaver lettere, men kørsler virker kun, når programmet er åbent, og uden websøgning. Nu kan Apple-brugere få hurtigere svar, mens den nye MiniMax-model kræver 130 GB og ikke kan køre på en almindelig bærbar.

I Unsloth kan du lade dine prompts – de skriftlige instruktioner, du giver en model – køre automatisk hver dag, hver uge eller hver måned. En model er et program, der kan svare på tekst og billeder. Hvert svar gemmes som en ny chat. Du vælger selv, om opgaven skal bruge en lokal model på computeren eller en forbindelse til et eksternt program. En sådan forbindelse kaldes en programmeringsgrænseflade, altså en fast måde to programmer kan tale sammen på. Du kan også få besked, når kørslen er færdig.

Opgavene kører kun, mens programmet er åbent. De kan ikke søge på nettet eller bruge andre værktøjer. Unsloth spørger om lov til at indlæse modellen, medmindre du har aktiveret automatisk skift.

Den nye model MiniMax-M3.1-Flash kan behandle op til 1 million tokens i ét vindue. En token er en lille byggeklods af tekst – omtrent et ord eller en del af et ord. Modellen kræver mindst 130 gigabyte arbejdshukommelse og grafikhukommelse i alt. Derfor kan den ikke køre på en almindelig bærbar. Brugere af Apple Silicon, Apples egne computerprocessorer, får op til 16 procent hurtigere svar. De får også op til dobbelt så hurtig billedgenerering med Z-Image.

Træning med teknikken gruppe-relativ politikoptimering (GRPO) er også blevet hurtigere. GRPO er en måde at træne modeller på. For Llama og Qwen3 på styresystemet Linux med NVIDIA-grafikkort går træningen op til 4,4 gange hurtigere pr. skridt, når værktøjet vLLM (virtual Large Language Model, en særlig motor til at køre sprogmodeller) ikke bruges. Billedmodellen FLUX.3 Klein kan nu redigere billeder via prompts. Du kan gemme dine modelindstillinger som navngivne forudindstillinger – gemte opsætninger, du kan bruge igen. For nøgler til Unslofts programmeringsgrænseflade er muligheden for at godkende Python-kald (kald skrevet i programmeringssproget Python) uden for sandkassen fjernet. En sandkasse er en isoleret prøveboks, hvor kode kan køre. Unsloth Desktop er gratis og open source – det betyder, at kildekoden er åben.