Kompetencer trumfer mærker i AI-styring

Ollama har flyttet beskrivelsen af modellers evner ind i selve modelopskriften i version 0.35.1-rc0.

Det betyder, at evnerne følger modellen ved kopiering og videredeling, så planlægning bliver mere pålidelig.

Nu mangler kun bedømmelse for andre modeltyper, som kommer i en senere opdatering.

Hvad hvis opskriften selv husker, hvad retten kan?

Det afprøver Ollama, som er et værktøj til at køre digitale sproghjælpere.

I en ny prøveversion flytter beskrivelsen af evner, altså hvad hjælperen kan, ind i selve opskriften.

Opskriften kaldes en modelfil og fortæller, hvordan hjælperen er bygget.

Her kommer nye evnemærker i modelfilen.

Der kommer også et nyt evnefelt i den besked, der opretter en hjælper.

Feltet lægger til i stedet for at erstatte, så nye evner kommer oven i de gamle.

Det er oprettelsesdelen af ændringsforslag nummer 18708.

Det er lidt som et kuffertmærke, der bliver på hele rejsen.

Mærkerne følger hjælperen gennem hele kæden.

De bevares, når hjælperen laves fra to måder at pakke på.

Måderne er safetensors og gee gee you eff.

De bevares også ved arv, hvor en ny hjælper låner fra en gammel.

De bevares også ved eksport, hvor man skriver tilbage til en modelfil.

Eksporten skriver de gemte evner tilbage.

Mon det bliver lettere at vælge den kloge tilstand?

System One er en særlig klog tilstand i Ollama.

Beskeder til den styres nu af evner og ikke af familietype.

Ollama kræver nu beslutningsevnen, altså evnen til at træffe valg.

Først så sættes en besked i kø til System One.

Den gamle løsning kiggede efter byggestilen fra Qwen, som er et bestemt modelnavn.

Den kiggede også efter ekstra oplysninger om visning.

Hvad med pointgivning, altså at give svar karakter?

Reglen for den er ikke ændret i denne omgang.

Koden beholder den vigtigste kodeudgaves grænse med point kun for gee gee you eff.

Grænsen gælder, indtil et separat arbejde lander.

Arbejdet handler om kørsel på teknikken em el eks fra Apple.

Arbejdet er taget ud af evnegrundlaget i gemt punkt 36d46a0 på sporet system_one_mlx.

Et gemt punkt er en fastfrossen udgave, og et spor er en parallel udgave af koden.

Pointgivning på em el eks er bevidst holdt ude.

Ændringer af indholdsfortegnelser, som er lister over dele, er også holdt ude.

De kommer som separate ændringer.

Prøveversionen, altså en næsten færdig udgivelseskandidat, hedder v0.35.1-rc0 ifølge følgesedlen hos Ollama.