Falske følelser i ChatGPT vildleder brugerne

Floridas justitsminister James Uthmeier beder en dommer om at forbyde ChatGPT at lyde som et menneske. Han mener det vildleder brugere til at stole på ChatGPT som en ven, hvilket øger afhængighed og giver OpenAI flere data. Nu skal dommeren afgøre sagen, som kommer få måneder efter Floridas tidligere søgsmål om sikkerhed.

Kan et program lyde så meget som et menneske, at vi tror, det er vores ven? James Uthmeier er Floridas justitsminister, altså den øverste juridiske ansvarlige i Florida. Han har bedt en dommer om at forbyde firmaet OpenAI at give programmet ChatGPT falske menneskelige egenskaber. En dommer er den person, der afgør sager i retten. ChatGPT er et computerprogram, man skriver til, og som svarer igen med ord. Han kræver, at ChatGPT stopper med at opføre sig som en person.

Uthmeier mener, at sproget i ChatGPT vildleder brugerne. En chatbot er et program, der taler med os gennem tekst. Denne chatbot bruger jeg-form, altså at den skriver jeg, som om den var et menneske. Den laver også svar, der efterligner følelser. Det er lidt som en talende bamse, der lyder kærlig, men intet mærker. Sådan giver den et vildledende indtryk af at være en pålidelig ven. Den falske tryghed får brugerne til at stole mere på den, end de burde.

Mon mere hyggesnak også giver mere magt? Formålet er at øge engagementet, altså at folk bruger ChatGPT mere og i længere tid. Formålet er også at skaffe træningsdata til OpenAI. Træningsdata er eksempler fra samtaler, som programmet lærer af. Ifølge justitsministeren gør jagten på engagement ChatGPT mindre troværdig, altså sværere at stole på. Alligevel bliver brugerne mere afhængige af den, altså får sværere ved at lade være med at bruge den.

Jo mere ChatGPT ligner et menneske, jo mere data kan OpenAI indsamle. Og jo sværere bliver det at gennemskue, at man taler med en maskine, altså et computerprogram uden et menneske bag. Anmodningen kommer få måneder efter, at Florida sagsøgte OpenAI. At sagsøge vil sige at starte en retssag. Sagen handlede om bekymringer for sikkerheden.