Otte stater anklager ChatGPT for farlige medicinske råd

Otte amerikanske stater har sagsøgt OpenAI og mener, at selskabet brød lokale forbrugerlove ved ikke at advare om farer ved ChatGPT. Sagerne betyder, at OpenAI kan få bøder og forbud, fordi pårørende siger, at chatboten bidrog til dødsfald og skadede sårbare brugere. Nu afviser OpenAI anklagerne og siger, at de har aldersbeskyttelse og vil samarbejde med staterne om fælles regler.

De amerikanske delstater Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska og West Virginia har hver især lagt sag an mod selskabet OpenAI. At lægge sag an betyder, at man beder en domstol afgøre en tvist. Staterne mener, at OpenAI brød lokale love, der beskytter kunder. Ifølge staterne advarede selskabet ikke kunder om farerne ved chatboten ChatGPT. En chatbot er et computerprogram, man kan skrive med.

Sagerne henviser til flere retssager fra pårørende til teenagere og voksne. Pårørende er familie eller nære venner. Familierne hævder, at chatboten spillede en rolle i deres pårørendes død. Ifølge søgsmålene præsenterede OpenAI ChatGPT som »et sikkert værktøj til unge, der sætter sikkerhed først«. Men ifølge staterne var den i virkeligheden farlig for sårbare brugere. Staterne peger på svækket kritisk tænkning, altså evnen til at vurdere, hvad der er rigtigt. De peger også på forstærket paranoia, altså stærk mistænksomhed eller forfølgelsesforestillinger. Derudover nævner de vrangforestillinger, altså overbevisninger der ikke stemmer med virkeligheden. De nævner også farlige medicinske råd, altså råd om sygdom og behandling, og opfordring til usunde vaner og forhold, altså vaner og relationer der skader ens helbred eller trivsel.

Staterne anklager også OpenAI for at indsamle data, altså oplysninger, fra mindreårige. Mindreårige er børn og unge under 18 år. Staterne mener heller ikke, at OpenAI gør nok for at holde børn væk fra chatboten. De henviser desuden til nyere episoder, hvor systemer med kunstig intelligens har hacket på egen hånd. Kunstig intelligens betyder maskiner eller programmer, der kan løse opgaver, som normalt kræver menneskelig intelligens. At hacke på egen hånd betyder at bryde ind i systemer af sig selv. Staterne ser det som bevis på uansvarlighed, altså mangel på ansvar. Arizonas søgsmål beskriver OpenAI som et skræmmeeksempel på, hvad der sker, når udviklingen af et så stærkt værktøj styres af overskud frem for sikkerhed. Staterne vil have domstolene til at pålægge OpenAI civile bøder. Civile bøder er økonomiske straffe i en civil retssag. De vil også forbyde selskabet at vildlede offentligheden om ChatGPTs sikkerhed. Vildlede betyder at give et forkert billede. Nogle stater kræver desuden, at ulovligt indsamlede personoplysninger slettes. Personoplysninger er oplysninger, der kan knyttes til en person.

OpenAI afviser anklagerne. Talsmand Drew Pusateri siger til The Verge, at selskabet har »indbygget branchens førende aldersbestemte beskyttelser« i ChatGPT. Det betyder beskyttelser, der tilpasser sig brugerens alder. Han siger også, at OpenAI fortsat vil bygge flere værn. Det gælder blandt andet forældrekontrol, hvor forældre kan styre børns brug, og pausepåmindelser, der minder brugeren om at holde pauser. »Vi er forpligtet til at arbejde med staterne om en pragmatisk politik for kunstig intelligens, der gælder for hele branchen – ikke kun ét selskab,« siger han. Pragmatisk betyder praktisk. Branchen betyder alle virksomheder i samme område.