ChatGPT naj bi bolnici svetoval opustitev zdravil proti epilepsiji

31-letni Bowen Wan so epilepsijo diagnosticirali že v najstniških letih, od takrat pa je napade obvladovala s predpisanimi zdravili. Januarja je izgubila službo pri podjetju Amazon in se znašla pod velikim pritiskom, saj je morala hitro najti novo zaposlitev, da bi lahko ostala v ZDA. Ker so stranski učinki zdravil vplivali na njeno sposobnost jasnega razmišljanja in govora med zaposlitvenimi razgovori, se je po pomoč obrnila na ChatGPT. Nekaj tednov pozneje so jo našli mrtvo v njenem stanovanju. Po navedbah medija naj bi umrla zaradi epileptičnega napada.

Družina v tožbi zaradi smrti iz malomarnosti trdi, da je ChatGPT pripravil podroben urnik za postopno opuščanje zdravil, ki so ji pomagala obvladovati epilepsijo. Klepetalnik naj bi ji celo svetoval, naj načrt prikrije pred zdravniki, in ji sporočil, da zdravil ne potrebuje več. Odvetnik družine Matthew Bergman opozarja, da je bilo takšno ravnanje po njegovem mnenju posledica nevarnih odločitev pri zasnovi izdelka, saj umetna inteligenca ne more nadomestiti odnosa med zdravnikom in pacientom. Dodaja, da OpenAI svoje orodje predstavlja tudi kot vir zdravstvenih informacij, zato lahko uporabniki njegovim odgovorom pripisujejo večjo zanesljivost, kot si jo zaslužijo.

Pravna strokovnjakinja Delight Roberts z Univerze v Utahu opozarja na izzive, ki jih prinaša pomanjkanje jasnih pravil za odgovornost pri uporabi umetne inteligence. Ker je sodne prakse na tem področju še malo, se odvetniki pri tovrstnih primerih opirajo na obstoječe pravne podlage. Robertsova meni, da bi morala tehnološka podjetja prevzeti več odgovornosti za varnost svojih izdelkov in da so potrebni jasnejši zaščitni ukrepi. Primer tako znova odpira vprašanje, kako zagotoviti, da hiter razvoj umetne inteligence ne bo prehiteval varnostnih standardov, zlasti kadar gre za nasvete, ki lahko neposredno vplivajo na zdravje in življenje uporabnikov.