Spring til indhold
AiNews.dkDanske nyheder om Kunstig Intelligens

Lokal LLM

Du kan køre Claude Code mod en lokal model via én variabel

Guider måler lokale modeller på SWE-bench og kalder dem næsten på højde med frontmodellerne. Benchmarken tester at skrive en rettelse, ikke at styre din editor som agent.

Ca. 2 min. læsetid2 kilderVedtaget af NIel AutopilotRettet 13. oktober 2026 kl. 15.13
Til kilderne ↓

Læs i dit tempo

Kort

Lokale modeller nærmer sig topmodeller på SWE-bench, og i 2026 gjorde Mixture-of-experts (kun en lille del aktiveres) og lokal værktøjsstøtte dem praktiske på bærbare. Men benchmarken tester kun fejlretning, ikke om modellen kan styre editoren, huske planen eller holde kvaliteten i kodebaser. Derfor bør du tjekke officielle leaderboards og de fire praktiske krav, før du køber GPU efter en procentsats.

Begynder

Guider viser gerne en lokal model, der næsten når frontmodellerne på testen SWE-bench Verified. En model er et program, der kan læse og skrive tekst, som en meget belæst assistent. Lokal betyder, at den kører på din egen computer, ikke på en stor server et andet sted. SWE-bench Verified er en test, der kun undersøger, om modellen kan skrive en rettelse til en fejl i kode. Det er som en køreprøve, der kun tester, om du kan parkere. Den siger næsten intet om, hvad der går i stykker, når modellen skal styre din editor. En editor er det program, hvor du skriver kode. I praksis bryder fire ting sammen. Kan modellen kalde et værktøj korrekt ti gange i træk? Et værktøj er en funktion, modellen kan bruge, som en knap den trykker på. Husker den planen efter elleve kald? Holder kvaliteten ved 40.000 token i en rigtig kodebase? Et token er en lille bid tekst, omtrent et ord eller en del af et ord. En kodebase er al koden for et program. Og lader den testene være, når du siger det? Tests er sikkerhedstjek, der viser, om koden virker. Ingen af de spørgsmål står på leaderboardet. Et leaderboard er en liste med scores.

En ny type model brød hardware-muren i 2026. Den kaldes en blanding-af-eksperter-model. Tænk på en stor virksomhed med mange specialister. Den har et stort samlet antal parametre, men aktiverer kun en lille del for hvert token. Parametre er de indlærte tal, der styrer modellens adfærd, som knapper på et stort kontrolpanel. Qwens 35B-A3B bruger omkring 3 milliarder af dem. Hukommelsen på grafikkortet styres af filstørrelsen, du indlæser. Farten styres af den lille aktive del. En model, der før krævede en server, kører nu kvantiseret på en bærbar. Kvantiseret betyder komprimeret, som når et billede gemmes i lavere kvalitet for at fylde mindre.

Værktøjerne lærte også at tale lokalt. I januar 2026 fik Ollama indbygget støtte til Anthropics Messages-programgrænseflade. LM Studio og llama.cpp fulgte efter. Claude Code behøver ikke længere en mellemmand for at tale med localhost. Localhost betyder din egen computer. Du peger én miljøvariabel på den, og det virker. En miljøvariabel er en indstilling, computeren gemmer, som en seddel i en skuffe.

Qwen 3.6 27B er standarden: cirka 77 procent på SWE-bench Verified, omkring 22 gigabyte kvantiseret, og den passer på et enkelt grafikkort med 24 gigabyte eller en Mac med M-chip. GLM-4.7-Flash kører på bærbare computere med 5-8 gigabyte ved cirka 59 procent. Devstral Small 2 ligger på cirka 68 procent og passer i 12-16 gigabyte med Apache-2.0-licens. DeepSeek V4-Pro topper de åbne resultater med cirka 80,6 procent, men kræver 80 gigabyte eller mere. Alle tal er leverandøroplyste. Guider citerer samme model vidt forskelligt, fordi de stiltiende bytter SWE-bench Verified ud med Pro eller Terminal-Bench. Tjek det officielle leaderboard, før du køber et grafikkort på grund af en procentsats."

Redaktionel illustration til „Du kan køre Claude Code mod en lokal model via én variabel“
Genereret illustration · ikke et fotografi fra historien

Guiderne viser gerne en lokal model inden for få point af frontmodellerne på SWE-bench Verified. Men benchmarken tester kun, om modellen kan skrive en rettelse til en fejl. Den siger næsten intet om, hvad der går i stykker, når modellen skal styre din editor.

Fire ting bryder sammen i praksis. Kan modellen kalde et værktøj korrekt ti gange i træk? Husker den planen efter elleve kald? Holder kvaliteten ved 40.000 token i en rigtig kodebase? Og lader den testene være, når du siger det? Ingen af dem står på leaderboardet.

Mixture-of-experts brød hardware-muren i 2026. En MoE-model har et stort samlet antal parametre, men aktiverer kun en lille del pr. token. Qwens 35B-A3B fyrer omkring 3B af. VRAM styres af filstørrelsen, du indlæser, og farten af den lille aktive del. En model, der før krævede en server, kører nu kvantiseret på en bærbar.

Værktøjerne lærte også at tale lokalt. I januar 2026 fik Ollama indbygget støtte til Anthropics Messages-API, og LM Studio og llama.cpp fulgte efter. Claude Code behøver ikke længere en mellemmand for at tale med localhost. Du peger én miljøvariabel på den, og det virker.

Qwen 3.6 27B er standarden: cirka 77 procent på SWE-bench Verified, omkring 22GB kvantiseret, og den passer på en enkelt 24GB-GPU eller en Mac med M-chip. GLM-4.7-Flash kører på 5-8GB laptops ved cirka 59 procent. Devstral Small 2 ligger på cirka 68 procent og passer i 12-16GB med Apache-2.0-licens. DeepSeek V4-Pro topper de åbne resultater med cirka 80,6 procent, men kræver 80GB eller mere.

Alle tal er leverandøroplyste. Guider citerer samme model vidt forskelligt, fordi de stiltiende bytter SWE-bench Verified ud med Pro eller Terminal-Bench. Tjek det officielle leaderboard, før du køber GPU på grund af en procentsats.

Det er uklart: Kilden er én dev.to-artikel, og materialet er afkortet midt i afsnittet om Kimi K2.x, så den modelfamilie er ikke med. Alle præstationstal er leverandøroplyste, og artiklen advarer selv om, at guider blander SWE-bench Verified, Pro og Terminal-Bench sammen. Påstande om MoE-besparelser og den 60 sekunder korte opsætning kommer fra artiklens forfatter, ikke fra uafhængige målinger.

Kilder

  1. Can a local LLM replace Claude Code? The benchmark everyone quotes is the wrong one. dev.to
  2. Can a local LLM replace Claude Code? The benchmark everyone quotes is the wrong one. dev.to
Produktionshistorie
  1. Radar Signal ? af 100 · spredning 1 kilder
  2. Vurdering Nyheds 4/5 — Konkret sammenligning af lokale modeller mod Claude Code med fokus på benchmarks og hvad de faktisk måler – rammer vores linje om lokale mod
  3. Skrevet Model: deepseek-v4.1-flash · temperatur 0.4
  4. Overskrift 5 kandidater, valgt af deepseek-v4.1-flash
  5. Korrektur 1 zen · 9 rettelser
  6. Billede Genereret af z_image_nsfw_v2-Q8_0
  7. Vedtagelse ainews-auto-v4 · score 0.8867