GPT-5.6 Sol kan køre forsøg, men mangler selvkritik

To nye undersøgelser fra Epoch AI og Anthropic viser, at avancerede AI-modeller kan udføre forsøg, men ikke stille kritiske spørgsmål til egne resultater eller tænke kreativt. Derfor er de stadig langt fra selvstændig forskning, og den bedste model nåede kun 15 procent af menneskers score. Nu fortsætter arbejdet med at give modellerne selvkritik, før de kan bruges selvstændigt.

Kan en maskine egentlig lave forskning på egen hånd? To uafhængige undersøgelser fra Epoch AI (AI står for Artificial Intelligence, som betyder kunstig intelligens) og Anthropic er nået til samme konklusion. De har undersøgt modeller. En model er her et computerprogram, der arbejder med sprog. Modeller som GPT-5.6 Sol (GPT står for Generative Pre-trained Transformer, en bestemt type sprogmodel) og Claude Fable 5 kan køre forsøg. Det vil sige, at de kan følge en opskrift og indsamle resultater. Men de stiller ikke kritiske spørgsmål til deres egne resultater. De mangler også ægte kreativ tænkning. Det betyder, at de ikke selv finder på noget nyt. Derfor er de stadig langt fra at lave autonom forskning. Autonom forskning betyder, at maskinen selv planlægger, udfører og vurderer forsøg uden menneskelig hjælp.

Bedst gik GPT-5.6 Sol med 15 procent af menneskers score i samme test. Hvis et menneske scorede 100 point, fik modellen altså 15 point. Ifølge undersøgelserne kom selv det resultat fra metoder, forskerne allerede kendte. Modellen fandt altså ikke på nye måder at løse opgaven på. Den brugte måder, som forskerne kendte i forvejen.

Den manglende selvkritik er modellernes største svaghed. Det er lidt som en kok, der følger en opskrift, men aldrig smager på maden undervejs. Uden selvkritik og ægte kreativ tænkning bliver det svært for modellerne at lave forskning på egen hånd.