Efter tre års GPU-dominans vender CPU'en tilbage i AI-driften

GPU'er har domineret driften af store sprogmodeller, men komplekse workflows med flere trin og specialiserede modeller ændrer balancen. CPU'ens rolle vokser, da koordination og logik mellem modeller er opgaver, den er bedre egnet til. Forholdet mellem CPU- og GPU-beregninger forventes at skifte fra 1:8 til 1:4 i drift.

# Når hjernen bag kunstig intelligens skal omfordeles

Forestil dig et køkken, hvor en stjernekok (GPU'en, altså den grafiske processor) har stået for det meste af madlavningen de seneste tre år. En almindelig køkkenassistent (CPU'en, altså den centrale processor) har kun hjulpet til med småopgaver. Sådan har det været, når store sprogmodeller – programmer der kan skrive, oversætte og svare på spørgsmål – skulle sættes i drift. Kokken har lavet alt det tunge arbejde, mens assistenten har kogt et enkelt æg ved siden af.

Men køkkenet ser anderledes ud nu. Modellerne bliver brugt til mere komplekse opgaver. De kalder på eksterne værktøjer undervejs, tænker i flere trin og samarbejder på tværs af flere små, specialiserede modeller – lidt som et hold kokke der koordinerer hver deres ret i stedet for én kok der laver alt. Intel, en af verdens største chipproducenter, har bemærket denne udvikling og peger på, at forholdet mellem CPU og GPU er ved at ændre sig. Til træning af modeller – det vil sige den proces hvor modellen lærer at forstå sprog – er forholdet typisk 1:8, hvilket betyder at for hver én CPU-arbejdsenhed bruges der otte GPU-arbejdsenheder. Men når modellen skal køre i praksis, bevæger forholdet sig mod 1:4.

Det er en markant forskydning. CPU'en får en voksende rolle i den samlede beregning, når modellerne skal sættes i drift. Jo mere komplekse workflows der er med flere trin og samarbejde mellem modeller, jo mere koordination og logik er der brug for – og netop det er opgaver, en CPU traditionelt er god til.