Nanbeige4.2 3B præsterer på højde med større modeller i ny test

En ny bænkpresstest offentliggjort af Reddit-brugeren /u/curiousily_ viser opsigtsvækkende resultater for den kompakte AI-model Nanbeige4.2 3B. Testen, som blev udført med en bartowski Q8-version via llama.cpp, sammenlignede modellen direkte med de væsentligt større modeller Qwen3.5 9B (Q8) og Gemma 4 (12B, Q4).

Resultaterne inden for ræsonnering og værktøjskald (tool calling) placerede den lille 3B-model på nøjagtigt samme niveau som de større konkurrenter. Testen blev afviklet på en M5 Pro-computer med 48 GB fælles hukommelse (unified memory). Her leverede Nanbeige4.2 3B en hastighed på omkring 30 tokens i sekundet (~30t/s) og opretholdt et beskedent hukommelsesforbrug på cirka 5 GB.

Ud over den høje hastighed og det lave ressourceforbrug udmærkede Nanbeige4.2 3B sig ved at bruge væsentligt færre tokens end Qwen3.5 9B-modellen. Samtidig klarede den sig en god del bedre end Gemma 4-modellen under de samme forudsætninger.

For at afprøve modellens praktiske evner inden for kodning blev den tilsluttet OpenCode for at forsøge at skabe en mini-SaaS-applikation. Ifølge testeren præsterede modellen betydeligt bedre end forventet til denne opgave, om end resultatet på området for UI-design haltede en smule.

Testen understreger potentialet i mindre sprogmodeller, som kan køre lokalt med lavt hukommelsesaftryk uden at gå på kompromis med evnerne til kompleks ræsonnering og værktøjsstyring.