Brugere bygger nu gratis prototyper med 34 AI-modeller

Et nyt gratis open source-værktøj samler 34 udbydere af sprogmodeller i én enkelt adgangsvej. Det gør det nemmere at bruge mange forskellige AI-modeller uden at skulle installere flere forskellige programpakker (SDK'er). Værktøjet kan nu bruges til personlige eksperimenter, men det er ikke egnet til professionel drift.

Forestil dig, at du kunne bruge én universel fjernbetjening til 34 forskellige mærker af fjernsyn. Det er præcis det, denne software gør for sprogmodeller, som er den »hjerne«, der driver kunstig intelligens. I stedet for at skulle opsætte et unikt Software Development Kit (SDK) — hvilket er en slags teknisk værktøjskasse til programmører — til hver enkelt udbyder som Google eller NVIDIA, kan man nu samle det hele i én enkelt forbindelse. Det gør det meget lettere at bruge de gratis versioner af mange forskellige AI-tjenester på samme tid.

Programmet er »open source«, hvilket betyder, at opskriften på koden er frit tilgængelig for alle under en såkaldt MIT-licens. Du kan køre det på din egen computer via en app eller andre tekniske værktøjer som Docker og npm. Selve værktøjet er gratis, fordi du selv medbringer dine Application Programming Interface (API)-nøgler. Disse nøgler fungerer som digitale adgangsbilletter til de forskellige udbydere. Værktøjet fungerer som en smart trafikbetjent, der styrer dine forespørgsler og automatisk finder en anden vej, hvis en tjeneste skulle være nede.

For 19 dollars om året får man adgang til en liste over modeller, der opdateres i realtid. Gratis brugere får i stedet et øjebliksbillede af listen én gang om måneden. Det betyder, at der går cirka 30 dage, før helt nye modeller bliver tilgængelige for dem, der ikke betaler for abonnementet.

Værktøjet er skabt til personlige eksperimenter og læring og er derfor ikke egnet til at drive en egentlig professionel forretning. Der er ingen garanti for, at systemet altid kører. Svartiderne kan variere, og kvaliteten falder ofte sidst på dagen, når udbydernes daglige grænser for gratis brug nås. Disse grænser nulstilles hver nat ved midnat Coordinated Universal Time (UTC), som er den globale standardtid.

Vil du have, at jeg uddyber forskellen på at bruge en desktop-app og de mere tekniske løsninger som Docker eller npm?