Forskere deler udstyr, men ikke data

Nvidia har beskrevet, hvordan fødereret læring (fælles modeltræning uden datadeling) ændrer sig, når flere parter deler hardware.

Det betyder noget, fordi grafikkort skal tildeles efter behov, og studier skal holdes adskilt uden at blande data.

Nvidia peger på et værktøj, der kan køre på tværs af systemer til at køre og styre programmer, så forskningsmiljøer kan drive det i praksis.

Fødereret læring er en måde at træne kunstig intelligens på, hvor data aldrig forlader den organisation, der ejer dem. Forestil dig en gruppe forskere, der hver især har deres egne notesbøger. I stedet for at sende notesbøgerne til ét sted, deler de kun de indsigter, de hver især har fået ud af dem. På den måde bliver alle klogere, uden at nogen mister kontrollen over deres egne data.

Når et sådant projekt er lille, er det overskueligt: én central computer, nogle få deltagere og ét datasæt — altså én samling af data — hos hver. Men Nvidia har skrevet et blogindlæg om, hvad der sker, når opsætningen vokser. Så skifter problemet karakter. Det handler ikke længere om at få algoritmen, den grundlæggende opskrift for beregningerne, til at køre. Det handler om at drive fælles infrastruktur, altså den samlede tekniske ramme, som alle er afhængige af. GPU'er skal tildeles, når jobbene har brug for dem. En GPU er en forkortelse for Graphics Processing Unit — en specialiseret regneenhed, der klarer tunge beregninger. Flere forskningsstudier skal køre side om side i samme opsætning uden at blande sig i hinanden. Og hver deltagende organisation skal stadig have fuld kontrol over sine egne data.

Nvidia peger på deres eget værktøj, FLARE, som løsningen. FLARE står for Federated Learning Application Runtime Environment. Et sådant værktøj er en slags ramme eller stillads, som udviklere bygger deres systemer oven på. FLARE kan ifølge blogindlægget vokse og tilpasse sig på tværs af Docker, Kubernetes og Slurm. Docker og Kubernetes er teknologier til at pakke software i såkaldte containere. En container er en færdig pakke, der indeholder alt, hvad et program skal bruge for at køre — lidt som en madkasse, man kan tage med hvor som helst. Slurm er et system, mange forskningsmiljøer bruger til at planlægge tunge GPU-opgaver på deres cluster. Et cluster er en samling af mange computere, der arbejder sammen.

Kravene følger af, at flere parter deler de samme maskiner uden at dele deres data. GPU'erne skal tildeles dynamisk efter behov, frem for at ligge fast hos én part. Studierne skal kunne køre side om side uden at påvirke hinanden. Og data skal blive hos den organisation, der ejer dem. Nvidia beskriver rammen for den slags opsætning. Blogindlægget sætter ord på, hvad der ændrer sig, når et fødereret læringsprojekt går fra forskningsforsøg til daglig drift på fælles fysisk udstyr.