OpenAI z novim varnim načinom ChatGPT za mlajše uporabnike

Družba OpenAI je predstavila prilagojeno izkušnjo ChatGPT za najstnike, ki na enem mestu združuje obstoječe in nove varnostne mehanizme. Poteza prihaja v času vse večjega pritiska javnosti na omejevanje vpliva orodij umetne inteligence na mlajše uporabnike. Poleg tega tudi druge platforme pospešeno uvajajo preverjanje starosti in posebne zaščite za mladostnike.

Novi način se samodejno vklopi za uporabnike, ki so navedli starost med 13 in 17 let, pa tudi za tiste, za katere sistem sam oceni, da so mlajši od 18 let. Za otroke, mlajše od 13 let, uporaba platforme ostaja prepovedana. Starši bodo imeli večji vpogled v delovanje orodja, saj bodo lahko nastavili čas počitka in prejemali obvestila ob morebitnih varnostnih tveganjih.

Privzete nastavitve vključujejo strožje omejitve glede prepovedanih ali občutljivih vsebin, kot so grafično nasilje, samopoškodovanje ter spolno ali romantično igranje vlog. Sistem prikazuje tudi varnostna opozorila pri temah, ki se dotikajo motenj hranjenja. Dodane so funkcije za spodbujanje uravnotežene uporabe, kot so opomniki ob nalaganju občutljivih fotografij, prilagojeni uvodni koraki ter možnosti oblikovanja po meri.

Ena opaznejših novosti so opomniki za odgovorno opravljanje domačih nalog. Sistem zazna, ko poskuša najstnik ubrati bližnjico pri šolskih obveznostih, in ga preusmeri v namenski študijski način. Starši ali mladostniki lahko nastavijo tudi »ure za učenje«, ki v določenem delu dneva samodejno vklopijo ta način.

Mnogi zaščitni ukrepi sicer niso povsem novi, saj gre za združevanje obstoječih orodij z nekaj manjšimi dodatki. Orodja za ocenjevanje starosti so bila predstavljena v začetku leta, starševski nadzor in študijski način sta na voljo že približno eno leto, pogostejši opomniki za odmor pa so bili uvedeni pretekli mesec. Izdelovalci obljubljajo nadaljnji razvoj varnostnih funkcij, vendar bo šele praksa pokazala, kako učinkovito lahko takšni algoritmi preprečijo zlorabe.