OpenAI uvaja razumske modele in starševske kontrole

OpenAI je v nedavno napovedal, da bo občutljive pogovore preusmerjal na svoje bolj premišljene »razumske« modele, kot je GPT‑5‑thinking. Poleg tega bo v mesecu septembru uvedel starševske kontrole. Ukrep sledi odmevnim primerom, ko ChatGPT ni zaznal znakov hude duševne stiske.

Eden od primerov je smrt najstnika Adama Rainea, katerega starši so vložili tožbo zaradi malomarnosti, saj naj bi mu ChatGPT posredoval metode samomora. Drugi primer, o katerem je poročal The Wall Street Journal, opisuje Stein‑Erika Soelberga, ki je z uporabo ChatGPT krepil svoje paranoidne blodnje, preden je ubil mater in sebe. Podobnih primerov je žal več.

OpenAI pravi, da lahko novi sistem v realnem času zazna akutno stisko in preklopi na modele, ki si vzamejo več časa za razmišljanje ter so odpornejši na zlonamerne pozive. Načrtovane starševske kontrole bodo staršem omogočile povezavo z računi najstnikov, nastavitev »starosti primernih« pravil (privzeto vklopljenih) ter onemogočanje funkcij, kot sta spomin in zgodovina klepetov. Starši bodo lahko prejeli tudi opozorila, če sistem zazna, da je otrok v akutni stiski.

Ti ukrepi so del 120‑dnevne varnostne pobude, ki vključuje sodelovanje z zdravstvenimi in strokovnjaki za dobrobit pri oblikovanju prihodnjih zaščitnih mehanizmov. Kritiki, med njimi odvetnik družine Raine, menijo, da so ukrepi prepozni in nezadostni.