Robotter slipper for serverforsinkelser med nye Cosmos 3 Edge

NVIDIA har udgivet Cosmos 3 Edge, en AI-model til styring af robotter. Den gør det muligt at køre beregningerne lokalt på robotten, hvilket fjerner forsinkelser i reaktionerne. Projektet er nu frit tilgængeligt som open source, så udviklere kan tilpasse modellen til specifikke opgaver.

NVIDIA har skabt en ny model kaldet Cosmos 3 Edge. Den består af 4 milliarder parametre, som man kan tænke på som små stykker viden, der hjælper maskinen med at forstå verden. Modellen kører direkte på en chip kaldet Jetson Thor. Det betyder, at robotten har sin egen »hjerne« med på vejen. Den behøver derfor ikke at sende beskeder frem og tilbage til store servere med Graphics Processing Units (GPU), som er kraftige chips til tunge beregninger, i et fjernt datacenter.

Modellen bygger på en mindre »reasoner«-model fra Nemotron, der er god til at ræsonnere, altså at tænke logisk. Den er allerede trænet i, hvordan ting bevæger sig og rører hinanden, ligesom Nano- og Super-modellerne. Det svarer til, at robotten har en grundlæggende forståelse for fysik fra starten. Den skal derfor ikke lære alt om verden helt fra bunden gennem hver enkelt demonstration.

Når »hjernen« sidder lokalt i robotten, løser man problemer med hukommelse og forsinkelse. Det sikrer, at processen med at tage beslutninger, som kaldes inferens, sker lynhurtigt. På den måde kan robotten styres i det rette tempo. Udviklere kan nu finjustere modellen, hvilket betyder, at de giver den ekstra træning i specifikke opgaver. De kan bruge et såkaldt »receding-horizon control loop«, hvor robotten hele tiden planlægger et lille stykke frem i tiden og justerer sig selv, mens det hele testes i en lukket simulation.

Hele projektet er udgivet som »open source«, hvilket betyder, at koden er frit tilgængelig for alle. Man kan finde koden i »cosmos-framework« på hjemmesiden GitHub. De såkaldte »model-checkpoints«, som er gemte udgaver af modellens læring, kan findes på HuggingFace.

Vil du have mig til at forklare nærmere, hvordan en lukket simulation fungerer i denne sammenhæng?