Udviklere lader 1.393 agenter lave samme arbejde

Eric Provencher lod 1393 AI-hjælpere omskrive den samme Python-kode for 20000 dollars i regnekraft.

Det betyder noget fordi hjælperne kontrollerede hinanden i stedet for at dele arbejdet, så prisen steg uden bedre resultat.

Læren er nu at bruge højst to hjælpere ad gangen for at undgå spild.

Hvad nu hvis 1.393 hjælpere skulle skrive den samme opskrift om? En opskrift for computeren, skrevet i sproget Python. Python er et sprog som computere forstår. Hjælperne her er agenter. En agent er et lille computerprogram der kan løse en opgave. Hver gang de læser eller skriver, bruger de tokens. Tokens er små bidder af tekst. De koster penge at bruge. Her løb regningen op på 20.000 dollars. Eksemplet kommer fra Eric Provencher. Han arbejder på OpenAI Codex.

Provencher bruger historien som en advarsel. En advarsel mod store sværme af agenter. En sværm er mange agenter på én gang. Han siger at flere end to agenter næsten aldrig giver bedre svar. En enkelt Astra-agent kunne have klaret samme omskrivning. Det ville have kostet kun en brøkdel af prisen. Kører man mange underagenter på samme tid, brænder man tokens af. Underagenter er små hjælpere der arbejder side om side. Kvaliteten bliver ikke bedre. Regningen vokser. Gevinsten bliver på nul. Hvorfor? Agenterne stoler ikke på hinanden.

Tænk på venner der skal dele rengøring. I stedet for at dele arbejdet går alle efter og tjekker de andre. Det samme arbejde bliver lavet flere gange. Hver ny agent lægger mere kontrol ovenpå. Den dobbelte kontrol fylder i tokenforbruget. Provencher kalder det en koordineringsskat. Skatten er prisen for at få mange agenter til at spille sammen. I hans eksempel blev den til 1.393 agenter og 20.000 dollars for én opgave.