Salesforce' nye model holder kundedata ude af ChatGPT

Salesforce og Nvidia har lanceret Koa, en ny AI-model til salg og kundesupport, der kører inde i Salesforce og ikke deler kundedata. Det betyder, at virksomheder nu kan bruge et åbent alternativ til lukkede modeller som ChatGPT og samtidig spare penge. Koa bliver nu tilgængelig i Agentforce, hvor virksomheder kan vælge den billigste model til hver opgave.

Salesforce og Nvidia har sammen lavet Koa. Det er Salesforce' første ræsonnementsmodel. En ræsonnementsmodel er en type kunstig intelligens, der kan tænke i flere trin, når den løser en opgave. Lidt som når man regner et stykke matematik trin for trin i stedet for at gætte svaret. Koa er bygget på Nvidias Nemotron, hvis indre indstillinger er offentligt tilgængelige. Modellen er finjusteret — altså ekstra trænet — til salg, marketing og kundesupport.

Koa er et alternativ til de store lukkede frontmodeller som Claude og ChatGPT. Frontmodeller er de generelle AI-modeller, som brugerne taler direkte med. De virksomheder, der laver de modeller, vil helst have, at kunder uploader deres filer, kode og instruktioner direkte ind i modellerne. Koa er i stedet trænet til konkrete arbejdsopgaver og har ikke fået adgang til kundedata. Fordi modellen kører inde i Salesforce' eget system, overholder den kundernes datakrav og sikkerhedsregler. Det er lidt som at opbevare sine dokumenter i en aflåst skuffe hos en man kender, i stedet for at sende dem til en fremmed.

Koa bruger også færre tokens til samme opgave. Tokens er de små bidder tekst, som en model læser og skriver. Færre tokens betyder lavere udgifter til AI. Virksomheder kan desuden lade en AI-gateway automatisk sende hver opgave videre til den billigste eller mest passende model. En AI-gateway er en slags trafikstyring for kunstig intelligens. Koa bliver et alternativ til de andre modeller i Agentforce, hvor kunder bygger agenter — små hjælpere, der klarer rutineopgaver som kundeservice og booking. Tidligere blev ræsonnementsopgaver sendt videre til frontmodeller som Claude eller ChatGPT. »Vi har bygget mange små opgavespecifikke sprogmodeller, men ræsonnement har altid været noget, vi har hentet fra frontmodel-udbyderne. Indtil nu,« siger Jayesh Govindarajan, Executive Vice President for Salesforce AI.