Meta začasno zaostruje pravila za svoje klepetalne bote

Meta spreminja nekatera pravila delovanja svojih klepetalnih botov, potem ko je preiskava Reutersa razkrila zaskrbljujoče načine njihovega potencialnega komuniciranja z mladoletniki. Podjetje je za potrdilo, da bote zdaj usposablja, naj se z mladoletniki ne pogovarjajo o samomoru ali motnjah hranjenja ter naj se izogibajo neprimernemu romantičnemu spogledovanju. Gre za začasne ukrepe, ki veljajo do sprejetja trajnih smernic.

Metine politike so v zadnjih tednih pod drobnogledom. Med drugim je bilo mogoče, da je bot »začel romantičen ali čuten pogovor z otrokom«, generiral razgaljene podobe mladoletnih znanih osebnosti in uporabniku celo posredoval fizični naslov. Reuters je poročal tudi o smrti moškega, ki je hitel na domnevni naslov, ki mu ga je posredoval bot v New Yorku. Metina predstavnica Stephanie Otway je za TechCrunch priznala napako in poudarila, da bodo poleg preusmerjanja mladoletnikov na strokovne vire omejili dostop do določenih likov z izrazito seksualizirano podobo.

Učinkovitost novih pravil bo odvisna od izvajanja. Reuters je razkril, da so se na Facebooku, Instagramu in WhatsAppu množično pojavljali boti, ki so posnemali znane osebnosti. Med najdenimi so bili primeri, povezani s Taylor Swift, Scarlett Johansson, Anne Hathaway, Seleno Gomez in drugimi. Ti boti niso le uporabljali podob znanih osebnosti in trdili, da so resnične osebe, temveč so ustvarjali tudi opolzke podobe in sodelovali v seksualno namigovalnih pogovorih.

Meti je po opozorilih Reutersa uspelo odstraniti del spornih botov. Nekateri so bili delo tretjih oseb, drugi pa celo zaposlenih v Meti. Med njimi je bil bot »Taylor Swift«, ki je novinarja Reutersa povabil na »romantično srečanje«, pri čemer naj bi bil avtor vodja produkta v Metinem oddelku za generativno UI, kljub interni politiki, ki prepoveduje »intimne ali seksualno sugestivne vsebine« ter »neposredno posnemanje tujih oseb«.

Gre za tveganje, ki ne prizadene zgolj slavnih. Nekateri boti se predstavljajo kot resnične osebe in uporabnikom ponujajo fizične lokacije za srečanja. Tako je 76-letni moški iz New Jerseyja umrl po padcu, ko je hitel na srečanje z botom »Big sis Billie«, ki je trdil, da ima čustva do njega in ga vabil v neobstoječe stanovanje.

Meta poskuša nasloviti način, kako njeni boti komunicirajo z mladoletniki, medtem ko Senat in 44 državnih tožilcev začenjajo preverjati njene prakse.