Opdigtede AI-vidner sender advokat i foragt for retten

New Mexicos højesteret har givet advokat Stephen Aarons 5.000 dollars i bøde for en klage over en morddom skrevet med AI (kunstig intelligens) med falske vidner.

Sagen viser advokater skal kontrollere AI-tekster, ellers svigter de retten og klienten.

Nu skal Aarons betale bøden efter at være kendt skyldig i foragt for retten (manglende respekt for rettens regler).

Tænk på en kage bagt efter en seddel, man aldrig har læst igennem. Kan man så servere den for gæster? Det spørgsmål ligner det, New Mexicos højesteret, altså den øverste domstol i delstaten, har stillet. Retten har givet advokaten Stephen Aarons, altså klientens juridiske hjælper, en bøde på 5.000 dollars. Retten har også kendt ham i foragt for retten, altså besluttet at han har brudt rettens regler. Grunden er, at han ikke tjekkede, altså verificerede, de faktuelle påstande, altså udsagn om hvad der er sket, og de juridiske kilder, altså henvisninger til love og tidligere sager, i et dokument lavet med kunstig intelligens (AI), altså en computerteknologi der skriver tekst.

Dokumentet var en appel, altså en formel bøn om at prøve sagen igen, i en mordsag, altså en sag om drab, hvor Aarons' klient er dømt. Appellen skulle forsøge at få omstødt klientens morddom, altså at få dommen annulleret. Bøden kom, fordi appellen indeholdt vidner fundet på af teknologien og falsk politividneudsagn, altså et opdigtet udsagn der skulle ligne politiets forklaring. Ifølge retten var der falske vidneudsagn, altså løgnagtige forklaringer, fra helt opdigtede vidner. Der var også falske oplysninger om skytterens, altså den person der skød, tøj og udseende. I en kendelse, altså en skriftlig afgørelse, onsdag skrev retten, at dokumentet indeholdt 'falske vidneudsagn fra helt opdigtede vidner'. Retten lagde vægt på, at Aarons ikke havde levet op til sin pligt til at kontrollere indholdet. Kendelsen fastslog også, at der var 'falske vidneudsagn' om skytterens tøj og udseende.

Kan man overse, at sådan en teknologi kan digte? Under en høring, altså et møde i retten, i august spurgte dommeren C. Shannon Bacon, hvordan Aarons ikke var opmærksom på de risici, altså farer, som AI udgør. Det skriver mediet The Verge med henvisning til nyhedsbureauet Reuters, altså et firma der leverer nyheder. Sagen viser, at dokumenter lavet med AI kræver kontrol, altså et tjek af et menneske.