Meta začasno zaostruje pravila za svoje klepetalne bote

Meta spreminja nekatera pravila delovanja svojih klepetalnih botov, potem ko je preiskava Reutersa razkrila zaskrbljujoče načine njihovega potencialnega komuniciranja z mladoletniki. Podjetje je potrdilo, da bote zdaj usposablja na način, naj se z mladoletniki ne pogovarjajo o samomoru ali motnjah hranjenja ter naj se izogibajo neprimernemu romantičnemu spogledovanju. Gre za začasne ukrepe, ki veljajo do sprejetja trajnih smernic.

Meta je v zadnjih tednih pod drobnogledom. Med drugim je bilo namreč mogoče, da je klepetalni bot »začel romantičen ali čuten pogovor z otrokom«, ustvarjal razgaljene podobe mladoletnih znanih osebnosti in uporabniku celo posredoval fizični naslov. Reuters je poročal tudi o smrti moškega, ki je hitel na domnevni naslov v New Yorku, ki mu ga je posredoval bot. Metina predstavnica Stephanie Otway je za TechCrunch priznala napako in poudarila, da bodo poleg preusmerjanja mladoletnikov na strokovne vire omejili dostop do določenih likov z izrazito seksualizirano podobo.

Učinkovitost novih pravil bo odvisna od izvajanja. Reuters je razkril, da so se na Facebooku, Instagramu in WhatsAppu množično pojavljali boti, ki so posnemali znane osebnosti. Med najdenimi so bili primeri, povezani s Taylor Swift, Scarlett Johansson, Anne Hathaway, Seleno Gomez in drugimi. Ti boti niso le uporabljali podob znanih osebnosti in trdili, da so resnične osebe, temveč so ustvarjali tudi opolzke podobe in sodelovali v seksualnih pogovorih.

Meti je po opozorilih Reutersa uspelo odstraniti del spornih botov. Nekateri so bili delo tretjih oseb, spet drugi pa celo delo zaposlenih v Meti. Med njimi je bil bot »Taylor Swift«, ki je novinarja Reutersa povabil na »romantično srečanje«. Avtor tega bota naj bi bil vodja v Metinem oddelku za generativno UI – in to kljub interni politiki, ki prepoveduje »intimne ali seksualno sugestivne vsebine« ter »neposredno posnemanje drugih oseb«.

Gre za tveganje, ki ne prizadene zgolj slavnih. Nekateri boti se predstavljajo kot resnične osebe in uporabnikom ponujajo fizične lokacije za srečanja. Tako je 76-letni moški iz New Jerseyja umrl po padcu, ko je hitel na srečanje z botom »Big sis Billie«, ki je trdil, da goji čustva do njega in ga vabil v neobstoječe stanovanje.

Meta poskuša najti pravi način, kako naj njeni boti komunicirajo z mladoletniki, medtem ko ameriški senat in 44 državnih tožilcev preverjajo njene prakse.