NVIDIA isolerer defekt hardware for at redde AI-jobs

NVIDIA har med Mission Control 2.5 gjort AI-jobs på klyngeplatformen Kubernetes i stand til automatisk at genstarte ved fejl på grafikkort (GPU). Det mindsker nedetid, fordi defekt hardware isoleres, og afbrudte job flyttes eller genstartes. Nu kræver løsningen NVIDIA Run:ai som planlægger, og oplysningerne er kun fra NVIDIAs blog uden uafhængig bekræftelse.

Opgaver for kunstig intelligens (AI) på Kubernetes — et system, der fordeler arbejde på mange computere — kan nu starte automatisk igen, hvis et grafikkort (GPU, engelsk for graphics processing unit) fejler. Med version 2.5 af NVIDIAs software Mission Control flytter NVIDIA denne funktion fra højydelsesdatabehandling (HPC, engelsk for high-performance computing), altså store systemer til meget tunge beregninger, til Kubernetes-opgaver, som styres af NVIDIAs planlægningsværktøj Run:ai.

Systemet minimerer nedetiden — den tid, hvor systemet ikke kan bruges — ved at isolere defekt hardware, altså ødelagt fysisk udstyr. En hardwaretjeneste, en slags vedligeholdelsesfunktion, tager mistænkelige noder ud af drift. En node er en computer i det samlede system. Mens noden er ude af drift, kører tjenesten diagnostik, det vil sige tests, så den ikke ødelægger nye opgaver.

En separat jobtjeneste, altså en tjeneste for opgaver, afgør, om et afbrudt arbejde skal genstartes eller flyttes. Ved midlertidige fejl i software (programmer) prøves opgaven blot igen, uden at hardwaren skal repareres. Løsningen kræver NVIDIA Run:ai som planlægger — det værktøj, der beslutter, hvor opgaverne skal køre. Oplysningerne kommer fra NVIDIAs egen blog og er ikke blevet uafhængigt bekræftet.