RTX Spark er 4,6 gange hurtigere end Intel til AI-agenter

Nvidia har lanceret RTX Spark-computere, hvor udviklere kan køre AI-kode lokalt i stedet for i skyen. Det betyder mindre forbrug af sky-tjenester og hurtigere agentarbejde, fordi computerens regnekraft og hukommelse er samlet. Nu understøttes Windows på Arm og lokale modeller, så udviklere kan arbejde i samme miljø som i skyen.

Udviklere kan skrive kode, teste den og sætte den i drift fra den samme maskine i stedet for at dele arbejdet mellem en bærbar computer, modeller hentet over internettet og lejede computere i store datacentre — det, man kalder skyen. Maskinen hedder RTX Spark og findes både som bærbar og som kompakt stationær. Indeni sidder en chip ved navn GB10, og der er op til 128 gigabyte hukommelse i alt. Det særlige er, at centralenheden (CPU), der styrer de almindelige beregninger, og grafikprocessoren (GPU), der laver de tunge matematiske løft, deler den samme arbejdshukommelse (RAM). Tænk på det som et værksted, hvor regnemaskinen og tegnebordet bruger den samme hylde i stedet for at have hver sin. Med en regnekraft på 1 petaflop i formatet FP4 — altså tusind billioner små regnestykker i sekundet, hvor hvert tal kun fylder fire bits — kan maskinen køre kodningsmodeller lokalt. En af dem er Qwen 3.8 Flash Next. Det skærer ned for forbruget af tokens fra skyen, altså de små tekstbidder en sprogmodel arbejder med, og som koster penge, når de kommer udefra.

Gevinsten er ifølge Nvidia størst ved selve agentarbejdet. En agent er et program, der selv tager fat: det læser en opgave, vælger et næste skridt og udfører det — lidt som en assistent, der både læser mailen og svarer på den. Sammenlignet med Intels Panther Lake 12Xe er RTX Spark 4,6 gange hurtigere til kodningsagenter, 2,7 gange hurtigere til finjustering, hvor en færdig model får ekstra træning på egne eksempler, og 1,8 gange hurtigere til at oversætte kode til programmer, der kan køre. Tallene bygger på test med Qwen3.8-27B til agenter, Unsloth LoRA med Llama-3.1-8B til finjustering og oversættelse af Linux-kernen med Phoronix Test Suite. LoRA står for Low-Rank Adaptation og er en let måde at finjustere en model på.

På softwaresiden har Nvidia udvidet Windows på Arm sammen med Microsoft. Arm er en familie af processorer, der bruger lidt strøm og sidder i de fleste telefoner. Der er nu den første udgave af PyTorch med støtte for CUDA — PyTorch er et værktøj til at bygge modeller, og CUDA er Nvidias system til at lade grafikprocessoren regne. Python 3.15 kører direkte på Arm, der er over 2.000 Conda-pakker, altså færdiglavede kodeklodser man kan installere, og Arm-udgaver af over 97 procent af de 15.000 mest hentede Python-pakker. Du kan arbejde i Windows med den nye opsætning Developer Config eller i Windows Subsystem for Linux, en måde at køre Linux inde i Windows, og beholde det samme miljø, som når koden senere kører i skyen.

Til agentarbejdet har Nvidia bygget modellen Nemotron 3.5 Bolt 74B-A9B 24GB med 74 milliarder parametre — de tal, modellen har lært — presset ned på 2 bit, så hvert tal kun fylder to binære cifre. Dermed kan den køre lokalt via llama.cpp, vLLM, Ollama, Unsloth og LM Studio, som er programmer, der afvikler modeller på din egen maskine. Beslutningsmodeller i llama.cpp og Unsloth vælger den næste handling uden lange ræsonnementer og er ifølge Nvidia op til 200 gange hurtigere end traditionelle løkker, altså gentagne gennemløb af de samme skridt. Nvidia har tilpasset agenterne GitHub Copilot, Pi, Hermes og OpenClaw med rutere, der virker som en postsorteringsmaskine: enkle spørgsmål går til den lokale model, og kun tunge spørgsmål kommer i skyen. Dertil kommer afgrænsede systemzoner. Til medier er værktøjer til at gøre video skarpere med flere billedpunkter, til at skabe nye billeder mellem de eksisterende, så bevægelser bliver glidende, og til TrueHDR — billeder med et stort spænd mellem lyst og mørkt — klar via PyPI, en online lagerhal af færdig Python-kode, og NGC, Nvidias eget katalog.