Nye konti isolerer arbejde, men deler modellen

Unsloth har udgivet version 0.1.810-beta med støtte til AMD-grafikkort, flere brugerkonti og dobbelt så hurtig billedgenerering.

Det betyder, at flere kan bruge værktøjet på forskellige grafikkort og dele det sikkert med individuelle konti.

Opdateringen er nu tilgængelig med vejledninger og rettelser til træning og Windows-enheder.

Har du nogensinde prøvet at skulle pakke en hel computer ned i en kuffert for at tage den med på rejse? Sådan noget ligner det, når udviklere bruger noget, der hedder Docker. Et Docker-image er nemlig en færdigpakket standardpakke med alt, hvad et program skal bruge for at køre. Unsloth, som laver værktøjer til kunstig intelligens, har netop udgivet en opdatering, der gør denne pakke meget mere fleksibel. Tidligere virkede den kun med NVIDIA-grafikkort, men nu findes den også i en udgave til AMD-grafikkort. Det svarer til, at kufferten nu kan åbnes med to forskellige nøgler – én til hver type computer. Opdateringen gør også, at billedgenerering med særlige komprimerede talformater kører dobbelt så hurtigt, og at Windows-bedre kan opdage NVIDIA-kort og komme sig efter fejl.

En anden nyhed er, at flere personer nu kan bruge det samme program uden at blande deres ting sammen. Før var der kun én bruger ad gangen, men nu kan man oprette flere konti med hver deres adgangskode. Det foregår under indstillingerne, hvor man får en engangskode, lidt ligesom når banken sender en kode til din telefon. Hver konto får sit eget arbejdsområde, men hvis to personer bruger de samme indstillinger, kan de dele den samme indlæste model – altså den færdigtrænede kunstige intelligens. Det sparer både tid og plads. Den gamle enkeltbruger-tilstand virker stadig præcis som før, så ingen behøver at lære noget om igen.

Der er også lavet forbedringer til dem, der træner deres egne modeller. Nu kan man for eksempel køre både træning og inferens – det vil sige at få modellen til at svare på spørgsmål – på Windows-computere med ARM64-processorer. Træningsmetoden GRPO, som er en måde at lære modellen på gennem belønning, er blevet bedre til at arbejde med de nyeste versioner af nogle populære værktøjer. Og så er der rettet en række småfejl, for eksempel når man gemmer særlige filer efter finjustering – altså når man tilpasser en model til en bestemt opgave – eller når man lukker en container ned og vil være sikker på, at alt arbejde er gemt. Alt i alt lyder det som en opdatering, der gør det lettere for både begyndere og øvede at få kunstig intelligens til at køre på deres egen hardware.