Billigere AI-modeller flytter grænsen for digitalt arbejde

OpenAI har udgivet en guide til GPT-6-familien om modelvalg, klare instruktioner og billigere genbrug af faste tekststykker med op til 95 procent rabat. Det betyder lavere priser ved genbrug af faste instruktioner og færre fejl med ensartede krav. Virksomheder skal nu fjerne unødvendige oplysninger, måle succes og planlægge overvågning før idriftsættelse.

Genbrugte bidder af tekst koster op til 95 procent mindre end nye bidder. Bidderne kaldes input-tokens. Tokens er små stykker tekst, som modellen læser. Det skriver OpenAI i en ny guide til Generative Pre-trained Transformer 6-familien, som kaldes GPT-6-familien. Familjen beskrives som selskabets mest avancerede modeller hidtil. En model er her selve programmet med kunstig intelligens, der svarer. Guiden handler om at vælge den rette model, give klare instruktioner og styre lange forløb frem mod idriftsættelse. Idriftsættelse betyder at systemet tages i brug for alvor.

Hvordan vælger man så? Tænk på det som at vælge transport. Løbehjul er nok til en lille tur, men ikke til en flytning. OpenAI anbefaler at afveje evner, pris og svartid. Man skal vælge den kombination af model, ræsonnement og hastighed, der passer til arbejdet. Ræsonnement er modellens måde at tænke sig frem på. En prototype kræver ikke det samme som et forløb på tværs af kode, databaser og eksterne tjenester, der lader programmer tale sammen. De tjenester hedder på engelsk Application Programming Interfaces, forkortet API'er. En prompt er den besked, man skriver til modellen. Skills er små ekstra vejledninger, der fortæller hvordan noget skal gøres. Prompter, skills og instruktioner i kodelageret skal sige det samme. Kodelageret er det fælles sted, hvor al koden bor. De skal sige det samme om hvad modellen skal levere, hvad den selv må gøre, og hvornår opgaven er færdig. Det mindsker risikoen for misforståelser undervejs.

Hvad med arbejde, der tager lang tid? Ligesom en lang madlavning kræver det opsyn. OpenAI peger på styring, værktøjer der kører i baggrunden og uddelegering, når arbejdet kører over tid. Værktøjer der kører i baggrunden betyder at modellen kan sætte noget i gang og lave andet imens. Uddelegering betyder at give dele af arbejdet videre til andre hjælpere. Sæt klare grænser for hvornår modellen skal bede om input, i stedet for at gætte sig frem. Skær også det overflødige væk. Kontekst er den bunke information, modellen holder i hovedet på én gang. Fjern den kontekst, opgaven ikke har brug for, men behold den dokumentation, der underbygger svaret. Hvor appen tillader det, anbefaler OpenAI at køre uafhængige opgaver sammen, så ét langsomt trin ikke bremser resten. Det er som at koge kartofler mens frikadellerne steger.

Genbrug det faste. Læg stabile instruktioner og referencemateriale først, og saml de skiftende detaljer bagefter. Det er som at have basisvarer fast i køkkenet og kun handle det friske til. Hold definitioner af værktøjer ens, så mellemlagringen holder. Mellemlagring er et midlertidigt lager, hvor det faste gemmes for at kunne genbruges. Et dashboard og en diagnoseguide skal vise hvor genbruget bryder sammen. Et dashboard er en oversigtstavle på skærmen. En diagnoseguide er en vejledning til at finde fejl. Tænk skriv til cache og priser for lang kontekst med, når prisen for et helt forløb gøres op. Skriv til cache betyder at gemme noget i mellemlageret. Komprimering skrumper konteksten, men bevarer den tilstand, der skal til for at fortsætte. Komprimering er som at pakke en kuffert tæt uden at glemme pas og billetter. Tilstand er huskesedlen om hvor man er. Mål succes og svartid, og planlæg overvågning og datakontrol før idriftsættelse. Overvågning er at holde øje med systemet. Datakontrol er at tjekke dataene.