Matematikere skal rådgive OpenAI uden at kunne sige stop

OpenAI har løst over 100 matematiske problemer og oprettet en rådgivende gruppe med matematikere.

Det betyder noget, fordi matematikere er bekymrede for, at kunstig intelligens truer deres arbejde, men gruppen har ingen magt.

Gruppen kan kun rådgive, mens OpenAI selv bestemmer tempoet for forskningen.

OpenAI har løst mere end 100 åbne matematiske problemer. Åbne problemer er uløste gåder, som matematikere verden over har forsøgt at knække i årevis. Mandag annoncerede selskabet en ny rådgivende gruppe, der skal give matematikere mere indflydelse på forskningen. Gruppen hedder Advisory Group on Mathematics and Artificial Intelligence og ligger på Institute for Advanced Study i Princeton. Den skal vurdere, hvor vigtige nye resultater er, og hjælpe med at koordinere, hvornår de bliver offentliggjort.

Nyheden kommer lige efter, at OpenAI pludselig udgav en løsning på Navier-Stokes-problemet. Det er et af matematikkens Millennium Prize-problemer, en samling af syv berømte og svære gåder. Ifølge OpenAI har den samme interne model også løst mere end 100 andre åbne problemer på tværs af de fleste matematiske områder. Men tempoet bekymrer fremtrædende matematikere. Tidligere på måneden skrev 25 Fields-medaljevindere – altså matematikere, der har fået en af fagets fineste hædersbevisninger – et åbent brev. Her advarede de om, at AI-laboratorier truer deres intellektuelle arbejde.

Den nye gruppe er kun rådgivende og har ingen beslutningskraft. Man kan sammenligne den med en konsulent, man hyrer for at få gode råd, men som ikke kan bestemme, hvad man gør. Medlemmerne får ingen løn, de må komme med uopfordrede råd, de kan gå offentligt ud med deres synspunkter, og de bestemmer selv, om de vil være med. Gruppen kan dog ikke bremse eller ændre retningen på OpenAIs matematiske forskning. OpenAI skriver direkte, at gruppen ikke skal rådgive om, hvor hurtigt de interne fremskridt skal gå. Institute for Advanced Study understreger det samme: De giver råd, men har ingen beslutningskraft i noget AI-selskab, og ansvaret for beslutninger ligger altid hos selskabet selv.