Unsloth spørger om lov, før modellen sender en formular

Unsloth har udgivet betaen v0.1.906 med en browser til chatten, en model til billeder og hurtigere modeller til tekst. Det betyder, at AI'en kan hjælpe på nettet under opsyn, lave billeder hurtigt og svare hurtigere på din egen maskine. Nu kan du slå browseren til i chatmenuen, hvor du selv bestemmer, hvad den må se og gøre.

Forestil dig, at du sidder i en chat og kan sige: “Gå ud på nettet og find det her.” Det er idéen med funktionen Browser use, som du slår til i plus-menuen i chatten. En model er et program, der kan læse og skrive tekst, og her kan den også åbne sider, læse dem, klikke, skrive og rulle op og ned, mens du ser på. Den kører i sin egen fane, altså sit eget vindue i browseren ved siden af chatten, og den har ikke adgang til dine andre faner. Unsloth spørger altid, før modellen logger på, sender en formular — et skema med felter — eller trykker på en knap, der køber, sender eller sletter. Adgangskoder, kortnumre og engangskoder, altså koder du kun bruger én gang, udfylder modellen aldrig. Dem taster du selv. Under Browser i indstillingerne bestemmer du, hvilke sider modellen må åbne, og om den må se din browserhistorik, altså listen over sider du har besøgt, og dine downloads, altså filer du har hentet. Funktionen virker både med modeller, der kører lokalt på din egen computer, og med udbydere, der stiller modeller til rådighed via en programmeringsgrænseflade (API, på engelsk application programming interface, en teknisk indgang for programmer). Det gælder også små tekstmodeller, altså modeller der kun arbejder med tekst.

Samme udgivelse, version 0.1.906-beta, tilføjer billedmodellen Qwen-Image-2.1-Turbo. En beta er en tidlig udgave, der stadig testes. En billedmodel er et program, der laver billeder. Den laver billeder i otte trin, og ifølge Unsloth går den 2,5 gange hurtigere end den officielle Qwen-Image-2.1. Den kan køre lokalt fra en fil på 4,2 GB (gigabyte) og startes fra billedsiden.

Unsloth oplyser også, at modeller af typen Mixture of Experts (MoE, altså modeller bygget af flere små ekspertdele), der er større end grafikkortets hukommelse, nu kører op til 3 gange hurtigere på grafikkort fra NVIDIA og AMD (Advanced Micro Devices). Grafikkort er et kort i computeren, der især bruges til tunge beregninger. Speculative decoding (spekulativ afkodning) gør svar fra MLX på Mac op til 2,8 gange hurtigere med samme output. MLX er et værktøj til at køre modeller på en Mac. En ny DiffusionTrainer kan træne tekst-diffusionssprogmodeller som DiffusionGemma, LLaDA og Dream. At træne betyder at lære modellen op. Tekst-diffusionssprogmodeller er sprogmodeller, der bygger tekst ved hjælp af diffusion, en metode hvor man starter med støj og gradvist former et resultat.