Dyre AI-modeller tvinger Salesforce til kursændring

Salesforce har sænket forventningen til sin profit grundet høje udgifter til AI-tokens, som er enheder til AI-behandling. Det viser, at ukontrolleret brug af avancerede AI-modeller kan blive meget dyrt for virksomheder. Selskabet vil nu vælge AI-model ud fra den konkrete opgave for at spare penge.

Salesforce forventer, at deres driftsmargin ender på 20,1 procent for året. Driftsmarginen er kort fortalt de penge, virksomheden har tilbage, når de daglige udgifter er betalt. I andet kvartal lå tallet på 20,5 procent. Det er faldet lidt, fordi selskabet har brugt mange penge på såkaldte tokens i deres afdeling for forskning og udvikling. Tokens kan sammenlignes med digital strøm eller små byggeklodser af tekst, som en kunstig intelligens skal bruge for at kunne arbejde.

Finansdirektør Mike Spencer forklarer, at medarbejderne fik gratis adgang til AI-modellen Claude for seks måneder siden. De ville undersøge, om teknologien kunne gøre deres arbejdsprocesser mere simple. Men det førte til et meget højt forbrug af tokens, som selskabet nu selv skal betalefor.

Derfor skifter selskabet strategi. De indfører nu det, de kalder »foreskrevet modelvalg til opgaven«. Det betyder, at de ikke altid bruger den nyeste og dyreste model til alt. Det svarer til ikke at bruge en stor boremaskine, hvis en lille skruetrækker er nok til opgaven. Salesforce bruger flere forskellige modeller fra firmaer som OpenAI, Cursor, Claude og Grok fra xAI, og hver af disse har deres egen pris.

Denne tendens ser man også hos Microsoft. Deres direktør, Jay Parikh, har skrevet, at udgifterne til tokens skal styres stramt. Han mener, at de skal behandles som enhver anden vigtig ressource. Selskabet vil ikke længere have fokus på »tokenmaxxing«, som er når man bruger mest mulig AI-kraft uden at tænke på prisen.

Vil du have, at jeg forklarer nærmere, hvordan de forskellige AI-modeller adskiller sig fra hinanden?