Dine ChatGPT-samtaler bliver læst af fremmede

OpenAI har kontraktansatte, der læser rigtige ChatGPT-samtaler og vurderer dem. Det betyder noget, fordi samtalerne kan indeholde følsomme oplysninger, og det er ikke nok at fjerne navne; man skal selv slå standardindstillingen fra. OpenAI har ikke oplyst, hvor mange samtaler der gennemgås, eller hvor længe de opbevares.

Hos OpenAI sidder flere hundrede kontraktansatte og læser rigtige ChatGPT-samtaler. Kontraktansatte er folk, der ikke er fastansatte, men arbejder på midlertidige aftaler. De vurderer hver samtale på en skala fra et til syv. Det skriver mediet 404 Media. Formålet er blandt andet at mindske modellens smiger og dens menneskelignende opførsel. Modellen er den teknologi, der driver ChatGPT. Når de kontraktansatte vurderer samtalerne, hjælper det OpenAI med at forstå, hvor modellen stadig opfører sig uhensigtsmæssigt.

Samtalerne er anonymiserede, hvilket betyder, at navne og andre direkte personoplysninger er fjernet. Men ifølge 404 Media kan de stadig indeholde følsomme oplysninger. Det kan for eksempel være oplysninger om helbred, arbejdsforhold eller andre ting, der gør det muligt at genkende en person, selv om navnet er væk. Det minder lidt om at modtage et brev uden afsender — indholdet kan stadig afsløre, hvem der har skrevet det.

Vil man undgå, at mennesker læser med i ens samtaler, skal man selv slå en indstilling fra. Den hedder »Improve the model for everyone«. Den er slået til som standard. Det betyder, at alle, der ikke aktivt ændrer noget, i praksis har sagt ja til, at kontraktansatte kan læse med. Indstillingen styrer altså ikke kun, om data bruges til at træne modellen — altså lære den at blive bedre — men også om rigtige mennesker ser indholdet.

OpenAI har ikke oplyst, hvor mange samtaler der bliver gennemgået, eller hvor længe de opbevares. Det fremgår heller ikke, hvordan de kontraktansatte er ansat, eller hvilke regler de arbejder under. Det efterlader spørgsmålet: Hvem har egentlig adgang til det, vi skriver til en chatbot?