Lille AI-model overtager de kedelige opgaver

OpenBMB har udgivet MiniCPM5-2B, en lille sprogmodel med 2 milliarder parametre, der er bygget til at hjælpe i større agent-systemer.

Modellen er vigtig, fordi den er hurtig og billig at køre, men stadig klarer sig godt på opgaver, hvilket gør den til et stærkt alternativ til større modeller.

Nu kan udviklere downloade modellen fra Hugging Face og GitHub, og videoen viser, hvordan man nemt kører den via Runpod.

OpenBMB har udgivet en ny sprogmodel kaldet MiniCPM5-2B. En sprogmodel er en slags computerprogram, der kan forstå og skrive tekst, lidt som en meget avanceret autokorrektur. Denne model har 2 milliarder parametre, hvilket er en måde at måle, hvor stor og kompleks modellen er. Den er specielt designet til at arbejde som en »sub-agent«, hvilket betyder, at den hjælper et større system med at løse opgaver, lidt som en assistent, der tager sig af detaljerne, mens chefen styrer det store billede.

Modellen er trænet med en metode kaldet JustRL II. Træning er, hvordan man lærer modellen at forstå og svare korrekt, lidt som at øve sig på mange eksempler. JustRL II fokuserer på at gøre modellen god til at følge instrukser og samarbejde med andre programmer. Ifølge en video fra Sam Witteveen, som gennemgår modellen, klarer MiniCPM5-2B sig overraskende godt på flere tests, især når man tænker på, hvor lille den er sammenlignet med nogle af de store modeller, der findes.

Du kan finde modellen på Hugging Face, som er en hjemmeside, hvor mange sprogmodeller bliver delt, og koden ligger på GitHub, som er et sted for programmører til at dele og samarbejde om kode. Videoen viser også, hvordan man kan bruge modellen i praksis, for eksempel med serverless endpoints fra Runpod, som er en tjeneste, der gør det nemt at køre modellen uden at skulle sætte alting op selv. For udviklere, der bygger agent-systemer, kan MiniCPM5-2B være et godt valg, fordi den er hurtigere og billigere at køre end større modeller, men stadig leverer solid ydeevne på de opgaver, den er lavet til.