Pogovori z orodjem ChatGPT se na sodiščih že uporabljajo kot dokazi

Pogovori z orodji umetne inteligence, kot je ChatGPT, nimajo pravne zaupnosti, ko to velja pri odvetnikih, zdravnikih ali terapevtih. Zasebni zapisi, pravna vprašanja ali zdravstvene stiske lahko namreč razkrijejo namere uporabnika, do njih pa je mogoče priti preko pregleda telefona, sodnega poziva, razkritja dokazov v tožbah ali obvestila organom pregona s strani samega podjetja.

V enem od primerov je najstnik vložil tožbo proti podjetjem Meta, Snap, TikTok in YouTube zaradi zasvojenosti z družbenimi omrežji, odvetniki obrambe pa so pridobili njegovo zgodovino uporabe orodja ChatGPT, kje je spraševal o očetovem komentarju glede poravnave. Odvetnik Mike Morgan opozarja, da mladi uporabniki umetni inteligenci zaupajo stvari, ki jih ne bi povedali staršem ali terapevtom, pri čemer se ne zavedajo, da ti zapisi lahko končajo v poročilih sodnih izvedencev.

Zapisi klepetov se vse pogosteje pojavljajo tudi v kazenskih postopkih. V Floridi je na primer podjetje OpenAI obvestilo FBI, potem ko je uporabnik Darren Zhou v orodju ChatGPT opisoval načrte za poškodovanje nekdanjega dekleta. Zhou je bil kasneje za to obsojen. Podjetje OpenAI je pojasnilo, da s programsko opremo zaznava nevarne pogovore in v primeru neposredne nevarnosti obvesti organe pregona. Zahtevki vlad za podatke so za nameček pri podjetju OpenAI v drugi polovici leta 2025 narasli za več kot štirikrat.

Do »uhajanja« zapisov spletnega klepetalnika ChatGPT prihaja tudi v civilnih tožbah. V Michiganu je prodajalec pnevmatik orodje ChatGPT spraševal, ali je izbrisana sporočila mogoče pridobiti s sodnim pozivom, kar je sodnik označil kot poskus prikrivanja dokazov. V New Yorku pa je zvezni sodnik potrdil, da pogovori finančnega uslužbenca z orodjem Claude podjetja Anthropic niso pravno zaščiteni, saj umetna inteligenca ni odvetnik.

Glede na odsotnost pravne zaščite strokovnjaki svetujejo: pogovore v spletnih klepetalnikih obravnavajte kot javne zapise, ne vnašajte občutljivih podatkov ali priznanj ter ne privolite v pregled telefona brez sodnega naloga. Profesor Andrew Ferguson z Univerze George Washington za nameček opozarja, da bi policija s širitvijo umetne inteligence sčasoma lahko dobila vpogled v celotno življenje posameznika.