Sprogmodeller tåler ikke at stå alene

En ny blogpost argumenterer for, at sprogmodeller er dårlige til at kategorisere tekst og i stedet bør indgå som et input i en traditionel maskinlæringsmodel.

Det betyder noget, fordi sikkerhedsestimaterne er upålidelige, og vigtig information kan overses, så fejltyperne bliver svære at styre.

Artiklen foreslår at bruge sprogmodellens output i en simpel statistisk model, som tilpasses de faktiske data.

En ny blogpost på siden Minimally Sufficient argumenterer for, at sprogmodeller er dårligt egnede som klassifikatorer. En sprogmodel er et computerprogram, der er trænet i at forstå og skrive tekst. En klassifikator er et program, der skal placere noget i en kategori – for eksempel afgøre, om en e-mail er spam eller ej. Når man bruger en sprogmodel som klassifikator, giver man den en beskrivelse af opgaven og lader den svare med en kategori. Det giver flere grundlæggende problemer.

For det første svarer modellen ofte med en bestemt kategori uden et velkalibreret mål for, hvor sikker den er. Et mål er velkalibreret, hvis tallene faktisk holder stik: Hvis modellen siger »70 procent sandsynligt«, skal det også være rigtigt i 70 procent af tilfældene – ligesom en vejrudsigt, der lover 70 procent regn, skal have regn i 70 procent af tilfældene. Man kan godt bede modellen om at angive sin sikkerhed, men der er ingen grund til at tro, at tallet er pålideligt. Det gør det svært at afveje præcision mod recall på en principiel måde. Præcision handler om, hvor mange af de ting, modellen udpeger, der faktisk er korrekte. Recall handler om, hvor mange af de korrekte ting, modellen faktisk finder. Uden et pålideligt sikkerhedstal kan man ikke finde den rette balance mellem de to.

Sprogmodeller er gode til ustruktureret tekst, altså fritekst uden et fast format. Men mange opgaver indeholder også struktureret data – tal og kategorier i faste felter, som man kender det fra et skema. Selv hvis man lægger de data ind i beskrivelsen til modellen, er der ingen garanti for, at den bruger dem. Det samme gælder for teksten i beskrivelsen: Man ved ikke, hvilke dele modellen faktisk har lagt vægt på. Modellen har også en indbygget forventning til data, som kan passe dårligt til ens egen situation. Den ved for eksempel ikke, om man tester på en gruppe, hvor den positive klasse – altså den kategori, man leder efter – er sjælden eller hyppig. Man kan fortælle den det, men det er ikke sikkert, at den indarbejder informationen korrekt i sin vurdering.

Forfatteren understreger, at fejlene ikke er sprogmodellens skyld: Den er ikke designet til at være en klassifikator. Løsningen er i stedet at behandle sprogmodellens svar som én blandt flere input til en traditionel maskinlæringsmodel. En maskinlæringsmodel er et program, der lærer af eksempler. Konkret foreslår artiklen at pakke sprogmodellens vurdering ind i en simpel logistisk regression. En logistisk regression er en matematisk metode, der vejer forskellige input sammen og giver et ja-eller-nej-svar med en tilhørende sandsynlighed. I stedet for at lade sprogmodellen bestemme svaret alene, lader man den bidrage med sin vurdering, og så lærer regressionen, hvor meget den vurdering skal vægte. I et særligt tilfælde, hvor vægten bliver uendelig stor, svarer modellen til at bruge sprogmodellen som klassifikator – men det er en dårlig strategi. Den sædvanlige tilgang er i stedet at tilpasse vægtene til de faktiske data, så man får et mere pålideligt resultat.