Facebook zaostruje boj proti samomorom

V ponedeljek je podjetje Facebook Inc. napovedalo širitev svoje programske opreme za prepoznavanje vzorcev v druge države sveta iz ZDA. Testno obdobje se je v Ameriki izkazalo kot uspeh in sedaj bo Facebook razširil uporabo dotične programske opreme, ki prepoznava uporabnike s samomorilskimi nagnjenji, širom sveta.

Facebook je obdobje testiranja začel že marca letos v ZDA, ko je začel skenirati tekste Facebook objav. Iskali so predvsem fraze in besede, ki indicirajo na razmišljanje o samomoru. Dodatnih podrobnosti glede same tehnične izvedbe skeniranja niso znane, so pa pri Facebooku povedali, da so iskali fraze, ki bi lahko bile sledi, kot so recimo vprašanja: “Si vredu?”, “Ti lahko pomagam”? itd. Če programska oprema ugotovi, da obstaja potencialna nevarnost samomora, to sporoči zaposlenim pri Facebooku, ki so specializirani za reševanje takšnih primerov. Sistem prepozna vire podatkov in ugotovi, kdo so prijatelji te osebe. Te prijatelje lahko svetovalci pokličejo kar preko telefona ali pa Facebook obvesti lokalne službe, da posežejo vmes.

Guy Rosen, Facebookov podpredsednik produktnega menedžmenta, prav, da so se odločili za širitev izven ZDA, ker se je sistem izkazal kot uspešen. V zadnjem mesecu dni so prvi respondenti preverili “potencialno ogrožene” ljudi več kot 100-krat, po tem ko je Facebookova programska oprema detektirala namero o samomoru. Po poročanju Facebooka se trudijo, da bi zaposlili specialiste, ki bi bili na voljo vsak trenutek dneva, da lahko pokličejo pristojne službe v vsakem lokalnem jeziku. “Hitrost je zelo pomembna. Mi si ne smemo privoščiti napak, ki bi trajala več ur. Mi moramo pomagati ljudem v realnem času in ne, ko je že prepozno”, pravi Rosen.

Zaposleni, ki so izobraženi in izurjeni na dotičnem področju, so pri Facebooku zelo iskani, kajti s tem, ko se je “veliki F” odločil za širitev na trge po celem svetu, je sprejel pomemben in precej pogumen korak. Lansko leto, ko je Facebook začel z videi v živo, je družbeno omrežje kar naenkrat postalo polno umorov in nasilja v živo, med drugim smo lahko bili priča nekaj samomorom. To je seveda predstavljajo veliko nevarnost za imidž podjetja. Maja letos je Facebook zatrdil, da bo zaposlil 3.000 ljudi, ki bodo nenehno spremljali in nadzirali videe ter ostalo vsebino, ki je roko na srce včasih res neverjetna za običajne oči.

Rosen za Reuters ni hotel razkriti, katere so tiste države, v katerih bo Facebook najprej ponudil svoj sistem. Jasno pa je, da zadeva ne bo možna v Evropski uniji, kajti vsi zelo dobro vemo, kakšne so omejitve glede uporabe zasebnih podatkov in maja 2018 bo GDPR vse skupaj še nekoliko bolj zakompliciral. Facebook pa ni edino podjetje, ki se ukvarja s preprečevanjem samomorov. Googlov spletni iskalnik prikaže posebno telefonsko številko za svetovanje, če recimo nekdo išče določene ključne besede.

Facebook pozna svojih 2,1 milijarde uporabnikov precej dobro, kajti te podatke uporablja za targetirano oglaševanje. Kljub temu pa do tega trenutka Facebook ni bil znan po tem, da bi sistematično skeniral pogovore in objave, da bi ugotavljal vzorce sumljivega vedenje. Ena izjema je primer, ko Facebook preverja pogovore med otroci in odraslimi spolnimi nasilneži. Slednji problem je s prihodomo družbenih omrežij dobil povsem nove razsežnosti in Facebook se tega v resnici zaveda. Ravno iz tega razloga skušajo sami storiti največ kar je v njihovi moči, da bi razne neljube dogodke preprečili. V primerih, ko ugotovijo neprimerno uporabo jezika, kontaktirajo pooblaščene službe.

Opisani primer je s strani regulative dokaj dobro urejen, je pa zato toliko težje v drugih primerih, ko tehnološka podjetja zelo težko upravičijo skeniranje objav. S tem se strinja tudi Ryan Calo, profesor prava na Univerzi v Washingtonu, ki veliko časa namenja pisanju o tehnologiji: “Enkrat, ko odpremo vrata, se takoj pojavijo dvomi o tem, kaj vse se spremlja in kje sploh je meja svobode”. Rosen glede vprašanja, ali Facebook razmišlja o tem, da bi uporabil programsko opremo za prepoznavanje vzorcev na drugih področjih, ki niso neposredno povezana s kriminalom, ni želel komentirati.