Forskeren bliver strateg mens maskinen udfører arbejdet

OpenAI har skabt en automatiseret forskningspraktikant, der kan udføre opgaver, som normalt ville tage flere dage. Dette kan gøre avanceret intelligens billigere og mere tilgængelig for flere mennesker globalt. Målet er nu at skabe en fuldt automatiseret AI-forsker inden marts 2028.

OpenAI har i september skabt en digital hjælper, der fungerer som en automatiseret forskningspraktikant. Det svarer til at have en ekstremt hurtig assistent, som kan løse opgaver, der normalt ville tage en dygtig forsker flere dage. En stor del af succesen kommer fra kodningsagenter, hvilket er specialiserede programmer, der selvstændigt kan skrive computerkode. Disse agenter gør arbejdet hurtigere og løser sværere opgaver med større succes, hvilket betyder, at forskerne kan nå at afprøve langt flere eksperimenter.

Målet er at skabe en helt automatiseret kunstig intelligens-forsker inden i marts 2028. Det skal drive udviklingen af »deep learning«, som er en metode, hvor computeren lærer at genkende mønstre på samme måde som den menneskelige hjerne. Samtidig arbejdes der på »alignment«, hvilket betyder, at man sikrer, at maskinens mål stemmer overens med menneskers værdier. Ved at automatisere forskningen håber OpenAI at gøre avanceret intelligens billigere, så flere mennesker i hele verden kan få glæde af det.

Selvom maskinerne bliver dygtigere, er det stadig mennesker, der styrer retningen. Det er folk, der fastlægger prioriteringerne og beslutter, om et system skal skaleres, pauses eller tages i brug. OpenAI ønsker også at være mere åbne om, hvordan deres frontmodeller – altså de AI-systemer, som brugerne rent faktisk møder – bliver udviklet. De mener, at offentligheden skal forstå, hvad der sker i laboratorierne, så vi sammen kan have en demokratisk debat om risici og sikkerhed.

Vil du have, at jeg forklarer begrebet »alignment« nærmere med et konkret eksempel fra hverdagen?