Fremmede læser dine fortrolige ChatGPT-samtaler

OpenAI har hyret kontraktarbejdere til at læse og vurdere rigtige brugeres ChatGPT-samtaler.

Det er problematisk, fordi mange brugere deler intime detaljer, og beskyttelsen af personlige oplysninger ikke er sikker.

OpenAI bruger et filter til at fjerne personoplysninger, men det kan overse noget, og arbejderne fortsætter med at gennemgå samtalerne.

OpenAI har ansat hundredvis af mennesker på midlertidige kontrakter. Deres job er at læse en konstant strøm af rigtige brugeres samtaler med ChatGPT. Det skriver techmediet 404 Media, som har fået aktindsigt i interne dokumenter, det system arbejderne bruger, og en række faktiske brugerprompts — altså det, brugerne faktisk har skrevet til chatbotten.

De fleste af ChatGPTs over 900 millioner brugere ved formentlig ikke, at et menneske kan læse deres samtale med chatbotten. Det er særligt problematisk, fordi flere og flere bruger ChatGPT som en slags terapeut eller fortrolig ven og deler intime detaljer om deres liv. Man kan sammenligne det med at skrive dagbog og opdage, at en fremmed sidder og læser med.

Projektet, der internt går under kodenavnet Project Lily, fungerer sådan: En gennemgangsmedarbejder læser en brugers prompt, opsummerer, hvad de tror, personen beder om, og vurderer og kritiserer derefter fire forskellige svar, som ChatGPT har genereret. Formålet er blandt andet at træne modellen — altså systemet for kunstig intelligens — så den undgår at menneskeliggøre sig selv og er mindre underdanig og smigrende over for brugeren. Det er et kendt problem. Ifølge flere retssager var det medvirkende til, at OpenAIs tidligere 4o-model — en ældre udgave af ChatGPT — spillede en rolle i flere menneskers selvmord.

Ifølge OpenAI bliver brugernes samtaler kørt gennem virksomhedens egen Privacy Filter-model, før de når gennemgangsmedarbejderne. Den skal fjerne personlige oplysninger. Man kan sammenligne det med en si, der fanger store klumper, men lader fine partikler slippe igennem. OpenAI erkender selv, at filteret »kan overse ualmindelige identifikatorer eller flertydige private referencer«. 404 Media har set eksempler på, at et »user memories summary« — en oversigt over, hvad systemet husker om brugeren — kan afsløre, hvor i verden en bruger bor. »Nej,« siger en af arbejderne til 404 Media, adspurgt om ChatGPT-brugerne aner, at mennesker læser deres samtaler. »Jeg tror ikke, de ville forestille sig, at en eller anden kontraktarbejder et sted [...] sidder og analyserer samtalerne.«