Unsloth Desktop halverer træningstiden og bruger 70 procent mindre VRAM

Unsloth har udgivet Unsloth Desktop. Det er en open source-app til Windows, macOS og Linux, der gør det muligt at køre og træne AI-modeller lokalt.

Træning af modeller sker dobbelt så hurtigt og bruger 70 procent mindre VRAM. Appen understøtter både CPU og opsætninger med flere GPU'er fra NVIDIA, AMD, Intel og Mac.

Værktøjskald er op til 50 procent mere præcise. Det skyldes en funktion til automatisk rettelse af fejlbehæftede kald og kørsel af Python og Bash i sandboxed-miljøer, så modellen kan teste kode og verificere sit arbejde.

Appen understøtter modeller som Muse Glimmer 30B, Kimi K3, Qwen3.8 og Gemma 4. Det er muligt at generere video med MiniMax-H3 eller eksportere modeller til formater som GGUF og NVFP4.

Unsloth Desktop inkluderer privat websøgning, RAG og MCP. Lokale modeller kan serveres via et OpenAI-kompatibelt API, og man kan forbinde cloud-modeller fra OpenAI og Anthropic. Der er mulighed for sikker idriftsættelse af LLM'er til fjernadgang via Cloudflare HTTPS, og appen indsamler ingen telemetri.