Modelrouter frigør udviklere fra én AI-udbyder

Sam Witteveen har udgivet en video, der viser, hvordan man bygger et system til at styre AI-modeller med Jev og OpenJevs, og den har allerede over 11.000 visninger.

Den store interesse viser, at mange vil lære at bruge disse værktøjer til at bygge AI-modeller.

Koden bliver lagt på GitHub i løbet af et par dage, så alle kan bruge den.

En seks timer gammel video fra Sam Witteveen har allerede fået 11.317 visninger og 365 likes. Videoen hedder 'How to Build Things with Jev & OpenJevs'. I beskrivelsen står der, at den bygger en modelrouter med både den API-baserede Jev og Semif. En modelrouter er som en trafikdirigent, der sender dine forespørgsler videre til den rigtige AI-model. Et API er en slags aftale, der gør det muligt for forskellige programmer at tale sammen. Jev og OpenJevs er værktøjer, som man kan bruge til at bygge med, og Semif er et andet værktøj, der også indgår.

Videoen indeholder en demo af modelrouteren, en gennemgang af arkitekturen og et afsnit om AutoJev. Arkitekturen er den overordnede struktur, altså hvordan de forskellige dele hænger sammen. AutoJev er et emne, der bliver behandlet i videoen. Den dækker også, hvilke modeller der kan bruges både lokalt og i skyen. Lokalt betyder på din egen computer, mens i skyen betyder på eksterne servere, som du lejer plads på. Ifølge tidsstemplerne viser videoen desuden, hvordan man kører routeren med hvilken som helst model. Tidsstempler er markeringer i videoen, der viser, hvornår de forskellige emner bliver gennemgået.

Koden bliver lagt på GitHub i løbet af et par dage. GitHub er en hjemmeside, hvor udviklere kan dele og samarbejde om kode. Sam Witteveen laver tutorials om at bygge LLM-agenter. En LLM er en stor sprogmodel, altså en AI, der er trænet til at forstå og skrive tekst. En agent er et program, der bruger sådan en model til at udføre opgaver. Han har et GitHub-repository med eksempler, hvilket er et digitalt arkiv med kode, man kan kigge i. I beskrivelsen linker han desuden til en formular for folk, der vil bygge LLM-agenter. Videoen har fået over 1.700 visninger i timen siden udgivelsen. De mange visninger på kort tid tyder på stor interesse for at bygge med Jev og OpenJevs.