Ingeniørerne bruger ikke mest AI – det gør alle de andre på kontoret

Virksomheder bruger overraskende mange AI-tokens på at omdanne PDF-filer til markdown, ifølge lækkede data fra Accenture, hvor processen sluger store mængder af ressourcer. Det betyder noget, fordi PDF er et dårligt format til maskinel behandling, og hvert omdannelsesstep koster dyrebare tokens. Accenture arbejder nu på at finde bedre løsninger til at reducere dette token-forbrug.

Forestil dig, at en AI-model som en sulten gæst, der skal læse en bog. Hvert lille ord i bogen er en »token« – den mindste enhed modellen bruger til at forstå og svare. Når virksomheder sender dokumenter ind til AI'en, betaler de typisk for hvert token, de bruger.

Nu viser interne data fra konsulentfirmaet Accenture sig at være overraskende: Det er ikke kun firmaets programmører, der bruger tokens i stor stil. Det er mange andre medarbejdere. En af de store synder er en tilsyneladende simpel opgave: at tage en PDF-fil og lave den om til et enkelt tekstformat kaldet markdown. Denne proces er faktisk enormt token-tørstig.

Hvorfor så? Tja, PDF-filer er bygget til at se pæne ud på en skærm, ikke til at blive læst af en maskine. Når AI'en skal forstå indholdet, skal filen derfor først brydes ned og oversættes. Det svarer lidt til, at du først tager et billede af et maleri (PDF til billede), for derefter at beskrive maleriet ord for ord i hånden (billede til markdown). Hvert skridt i den lange oversættelsesproces bruger masser af tokens, hvilket hurtigt bliver dyrt. Som en af Accentures ledere har bemærket, er denne konvertering simpelthen »en af de store token-ædere«.