Brugeren forveksler teknik med AI-bevidsthed

Otte åbne AI-systemer siger oftere 'jeg er bare en AI' med samtaleskabelon, altså samtalens opsætning, og oftere 'jeg føler' uden. Det betyder noget, fordi det viser at selvudsagn ikke kun kommer fra systemet selv, men også fra opsætningen. Papiret fremlægges nu på to fagmøder i 2026.

Kan en lille indpakning ændre stemmen hos en maskine? Det spørgsmål undersøger Jędrzej Maczan i et nyt papir på arXiv, som er et åbent sted for forskningsartikler.

Han ser på otte populære modeller for kunstig intelligens (AI). Modellerne er åbne, så alle kan se koden. De er trænet til at følge instruktioner. De har op til 9 milliarder parametre, som er små indre justerskruer. Hver model prøves med og uden en chat-skabelon, som er en fast tekst der pakker samtalen ind. Det er lidt som et kostume der skifter personens rolle. Med skabelonen siger alle otte modeller oftere sætninger som ”jeg er bare en AI”. Uden skabelonen er det omvendt. Så siger de sjældnere ”jeg er bare en AI” og oftere ”jeg føler”. Forskeren beskriver skabelonen som en kontakt der skifter mellem to stemmer.

Hvad styrer kontakten mon? I tre af modellerne fandt han en retning i aktivitetsrummet, som er modellens indre arbejdsrum hvor signaler bevæger sig. Retningen er som en kompasretning derinde. Han bruger en metode der hedder aktiveringsstyring, på engelsk activation steering, som skubber blidt til signalet. Fjerner man retningen, falder den forsigtige stemme. Tilføjer man den, stiger den. En tilfældig retning af samme størrelse havde næsten ingen effekt. Og modeller uden skabelon begyndte at tale som om skabelonen var der, når retningen blev tilføjet.

Er selvbeskrivelse så et spejl af maskinen selv? Det har betydning for forskning i sikkerhed for kunstig intelligens og for modellers selvkendskab, altså hvad de ved om sig selv. Hvis skabelonen er med til at bestemme hvad modellen siger om sig selv, så er selvrapporter, altså modellens egne udsagn om sig selv, ikke et rent udtryk for modellens vægte, som er dens indre indstillinger. Forskeren konkluderer derfor at modellers selvbeskrivelse ikke skal tages bogstaveligt, fordi den delvist er sat af skabelonen. Papiret er accepteret til to faglige møder i 2026 og ligger på arXiv med nummer 2609.25021.