EmbeddingGemma 2 fjerner risikoen for dyre genberegninger

EmbeddingGemma 2 er frigivet under den frie Apache 2.0-licens, så alle selv kan køre modellen.

Det betyder noget, fordi du undgår dyr genberegning af dit søgbare lager, hvis en udbyder lukker.

Fremover vil forfatteren betale for drift, men kun med åbne modeller som sikkerhed i ryggen.

Tænk på indlejringer som små smagsnoter på syltetøjsglas. En indlejring er en talrække. En talrække er en lang række tal. Den beskriver hvad en tekst betyder. Den gør tekst søgbar efter betydning. Værktøjet EmbeddingGemma 2 laver netop sådanne talrækker. Det er delt med en fri tilladelse kaldet Apache 2.0-licensen. En tilladelse fortæller hvad du må bruge værktøjet til. Denne tilladelse betyder at alle kan køre værktøjet selv. Man kan også betale en anden udbyder for at gøre det. En udbyder er et firma der kører værktøjet for dig på sine computere.

Hvad sker der hvis hylden med glassene forsvinder? De fleste løsninger beregner tusinder eller millioner af vektorer. En vektor er bare et andet ord for sådan en talrække. De gemmer dem til senere sammenligning. Tænk på det som et stort kartotek over smagsnoter. Hvad hvis udbyderen lukker en lukket model? En lukket model er et værktøj hvor de indre tal er hemmelige. Du kan ikke selv køre det. Så skal du betale for at genberegne hele lageret med efterfølgeren. At genberegne betyder at lave alle talrækkerne forfra. Efterfølgeren er det nye værktøj der erstatter det gamle. Det skriver kommentatoren.

Kunne man have en bagdør i baghånden? Selskabet OpenAI tilbød i april 2024 at dække regningen for den type genberegning. Men det er ikke noget man kan regne med fra alle udbydere. Forfatteren vil helst betale for hosting. Hosting betyder at man betaler en udbyder for at køre værktøjet. Men forfatteren vil have åbne vægte i ryggen. Vægte er de indre tal der styrer værktøjet. Åbne betyder at alle kan hente dem og køre værktøjet selv. Så ejer man stadig en udvej hvis den hostede version forsvinder. Den hostede version er den udgave som udbyderen kører for dig.