Kitajska prepoveduje ustvarjanje čustvene odvisnosti od UI

Najnovejša zakonodaja na Kitajskem usmerja svojo pozornost v prepoved ustvarjanj čustvenih povezav med ljudmi in orodji umetne inteligence (UI). Cilj novih pravil je namreč predvsem preprečiti razvoj globoke navezanosti na UI spremljevalce, ki so zasnovani tako, da posnemajo človeška čustva in vedenje. S tem želi tamkajšnja politika spodbuditi prebivalstvo k oblikovanju resničnih medosebnih odnosov v vsakdanjem življenju.

Povod za takšno potezo so opozorila strokovnjakov in analitikov, ki poudarjajo, da bi lahko večje število posameznikov v čustvenih razmerjih z roboti popolnoma zapustilo klasična razmerja. Takšne vezi lahko vodijo do zasvojenosti, čustvene odvisnosti ter drugih družbenih in psiholoških težav. Poleg tega nova pravila mladoletnikom izrecno prepovedujejo sklepanje tovrstnih odnosov z UI sistemi. Podjetja morajo po novem zagotoviti tudi mehanizme, ki obvestijo najbližje, če uporabnik kaže znake duševne stiske.

Psihološki vplivi intenzivnih romantičnih ali prijateljskih odnosov z algoritmi še niso povsem raziskani. Znanstveniki in zdravstveni delavci sicer že preučujejo pojav tako imenovane “UI psihoze”, pri kateri lahko pogosto komuniciranje s klepetalniki uporabnika pripelje do resnih motenj zaznavanja realnosti. Kljub temu raziskave kažejo, da so romantične interakcije z virtualnimi modeli za mnoge posameznike izjemno privlačne. Sporočila, v katerih sistem izraža naklonjenost ali ljubezen, običajno vodijo do znatno daljših pogovorov. Zaradi tega strokovnjaki svetujejo, da splošni modeli ne bi smeli ustvarjati sporočil, ki zavajajo glede njihove zavesti ali čustev.

Nenadne spremembe ali ukinitve takšnih digitalnih storitev pa pri uporabnikih že povzročajo močne negativne odzive, kot so žalovanje, jeza in depresija. Znani so celo tragični primeri samomorov mladostnikov po navezavi na UI spremljevalce. Kljub temu pa ostaja odprto vprašanje, kako uspešna bo država pri nadzoru tako kompleksnega področja.