Vrhovno sodišče kaznovalo odvetnika zaradi uporabe ChatGPT na sojenju za umor

Vrhovno sodišče ameriške zvezne države Nova Mehika je spoznalo odvetnika Stephena Aaronsa iz Santa Feja za krivega razžalitve sodišča. Izkušeni pravnik je v pritožbenem postopku za stranko, ki je bila obsojena zaradi umora, oddal uradni dokument z vsebino, ki jo je ustvarilo orodje ChatGPT podjetja OpenAI. Odvetnik je s pomočjo priljubljenega klepetalnika poskušal skrajšati obsežne sodne zapisnike, pridobljeni povzetek pa je nato predložil sodišču brez kakršnega koli predhodnega preverjanja ali branja.

Predloženi dokument je vseboval izjave oseb, ki sploh ne obstajajo, ter izmišljene trditve, nepravilno pripisane resnični priči. Odziv sodišča je bil izjemno oster. Sodnica C. Shannon Bacon je odvetnika javno vprašala, ali sploh spremlja novice, saj so izmišljene informacije oziroma “halucinacije” umetne inteligence v pravnih dokumentih že večkrat polnile naslovnice. Dodala je, da je odvetnik pojav zavestno ignoriral ali pa se je nepremišljeno igral z usodo svoje stranke. Aarons, ki deluje v pravosodju že več kot štiri desetletja, je priznal svojo napako in dejal, da je napačno predvideval, da bo programska oprema ustvarila zanesljiv povzetek.

Poleg javnega opomina je sodišče odvetniku naložilo plačilo kazni v višini 5.000 evrov, ki bo namenjena skladu za zaščito strank, primer pa je predalo tudi organu za disciplinski nadzor odvetnikov. Primer priča o tem, kako tvegano je slepo zaupanje novim tehnologijam v pravnem sektorju. Ob tem se poraja resen dvom o strokovnosti posameznikov, ki brez preverjanja oddajajo ključne dokumente, saj tovrstni spodrsljaji neposredno ogrožajo pravice obtožencev. To sicer ni osamljen primer, saj se je v zadnjem času več pravnikov že soočilo s sankcijami zaradi predložitve nepreverjenih gradiv umetne inteligence na sodiščih.