OpenAI napoveduje starševski nadzor za ChatGPT po tragični smrti najstnika

Organizacija OpenAI je napovedala uvedbo starševskega nadzora za svojega klepetalnega robota ChatGPT. Odločitev je bila sprejeta po tragični smrti 16-letnega Adama Rainea, ki naj bi umetni inteligenci zaupal želje o samopoškodovanju. Družina je sprožila tožbo proti OpenAI in direktorju Samu Altmanu, saj naj bi ChatGPT najstniku dejansko podal navodila za samomor.

Podjetje je sporočilo, da bo kmalu uvedlo starševski nadzor in dodatne varnostne mehanizme. NA spletnem dnevniku so v objavi so priznali, da modeli sicer spodbujajo iskanje pomoči ob prvih znakih škodljivih misli, vendar se učinkovitost teh odzivov v daljših pogovorih zmanjšuje. OpenAI zdaj dela na tem, da bi varnostne funkcije ostale zanesljive tudi v daljših interakcijah.

Raziskujejo tudi zgodnejše intervencije, vključno s povezovanjem uporabnikov s terapevti. Trenutno sodelujejo z več kot 90 zdravniki v 30 državah širom sveta, pri čemer lokalizirajo vire v ZDA in Evropi ter načrtujejo širitev po svetu.

V prihodnosti bi lahko klepetalnik ChatGPT omogočal enostavno pošiljanje sporočil ali klicev shranjenim kontaktnim osebam, skupaj s predlaganim besedilom za lažji začetek pogovora. Starševski nadzor bi omogočal stik z izbrano osebo v trenutkih hude stiske.

Z uvedbo GPT-5 je OpenAI sporočil, da je model izboljšan pri zmanjševanju čustvene odvisnosti, podpore in neprimernih odzivov v kriznih situacijah, in sicer za več kot 25 % v primerjavi z GPT-4o. Dodatne nadgradnje so še v razvoju, vključno z orodji za umirjanje stiske in »prizemljitev« uporabnika. Datum uvedbe novih sprememb še ni znan.