Facebook ocenjuje zanesljivost svojih uporabnikov z oceno od 0 do 1

Facebook je začel ocenjevati svoje uporabnike na podlagi njihovega ugleda, s čimer bi naj izkazal oz. napovedal njihovo zanesljivost oz. stopnjo zaupanja. Na lestvici od 0 do 1 vsak uporabnik prejme določeno število, ki služi kot njegova ocena zanesljivosti.

Facebook je razvil sistem, ki ga je razvijal zadnjih nekaj let in to naj bi bil učinkovit pristop v boju proti hekerskim napadom in vdorom. S to lestvico “kredibilnosti” bi naj Facebook identificiral potencialno nevarne akterje med uporabniki Facebooka. Tessa Lyons, produktni vodja, ki vodi boj broti lažnim novicam in širjenju napačnih informacij, je v intervjuju povedala, da je dotični sistem del tega boja. “Veliki F” se je doldo časa zanašal na pritožbe ostalih uporabnikov, ki so opazili določene sumljive stvari pri uporabnikih – Facebook je tako uporabnikom pustil precej svobode, ki pa so jo določeni izrabljali za širjenje lažnih pritožb. Vidimo lahko, da je iz boja proti lažnim novicam prišlo do še večje količine lažnih novic.

Lyonsova še dodaja: “Ni nevsakdanje za uporabnike, da ti širijo lažne informacije samo zato, ker se z njimi ne strinjajo ali želijo namerno škodovati določeni skupini ljudi ali posameznikom”. Uporabnikova ocena zanesljivosti ni mišljena kot absulutni indikator uporabnikove kredibilnosti, niti ne obstaja nek celosten in skupen sistem ocenjevanja, ki bi ga uporabniki bili deležni. Nasprotno je dotična ocena zgolj ena od meritev, glede na katere zdaj Facebook skuša razumeti tveganja med uporabniki in pravočasno ukrepati, da ne pride do zlorab in podobnih kršitev. Za zdaj na žalost nimamo informacij o tem, katere kriterije Facebook uporablja pri merjenju ocene, prav tako pa ni jasni niti ti, ali imamo vsi uporabniki to oceno, ali kako Facebook sploh do nje pride.

Zakaj se je Facebook odločil za ta korak ravno zdaj?

Takšne in drugačne meritve in ocene uporabnikov so prišle na plano ravno v času, ko se Silicijeva dolina sooča z ruskim vmešavanjem, lažnimi novicami in ideološkimi akterji, ki zlorabljajo politiko podjetja. Facebook skuša najti drugačen pristop do uravnavanja tveganj in išče nove algoritemske načine, kako najti tiste, ki predstavljajo nevarnost. Twitter se je recimo poslužil drugačne metode od Facebooka, in sicer spremlja obnašanje ostalih računov v omrežju posameznika in glede na to predvideva, kako nevaren naj bi bil uporabnik. S tem, ko govorimo o nevarnosti uporabnika, ne mislimo na direktno nevarnost v fizičnem smislu, temveč tudi na tisto kiber navarnost in morda tudi psihološko nevarnost, ki je po navadi v večji meri prisotna na spletu.

Kako ti sistemi kredibilnosti delujejo?

To ostaja še vedno precejšnja skrivnost, predvsem zato, ker bi prevelika razkritja pomenila še več zanimanja s strani nepridipravih. “To, da ne vemo, kako nas Facebook ocenjuje, v nas zbuja neprijeten občutek negotovosti”, pravi Claire Wrdle, direktorica First Draft-a, raziskovalnega laboratorija v sklopu Harvard Kennedy School, ki se specializira za področje vpliva lažnih novic in napačnih informacij. “Ironija je v tem, da nam Facebook ne more povedati, kako nas ocenjuje, kajti če bi nam to razkril, bi algoritmi, ki so jih zgradili, lahko bili hitro zmanipulirani s strani hekerjev.

Sistem, ki ga je Facebook zgradil za označevanje potencialno nesprejemljive vsebine je v marsikaterem pogledu postal pravo bojišče. Raznorazni aktivisti na različnih družbenih omrežjih, od Instagrama do Twitterja, so se odločili, da vsak po svoje nasprotujejo potezam Facebooka, kajti nekako se ne strinjajo s tem, da bi Facebook ocenjeval uporabnike brez njihovega vedenja.

Tehnološka podjetja imajo dolgo zgodovino uporabe algoritmov za napovedovanje najrazličnejših človeških lastnosti in celo nakupnih navad. Poleg tega lahko z algoritmi ugotovijo, ali nekdo uporablja lažno identiteto in še bi lahko naštevali. Glede na to, da se širjenje lažnih informacij pojavlja vse pogosteje, podjetja investirajo v sofisticirane pristope ugotavljanja, komu zaupati in do kakšne mere. Leta 2015 je Facebook svojim uproabnikom dal moč prijavljanja objav, če so se jim zdeli lažni. Gumb v desnem zgornjem kotu Facebookovih objav omogoča, da uporabniki prijavijo sumljivo vsebino iz različnih razlogov: ali je to pornografija, nasilje, sovražni govor in lažne novice.

Lyonsova pravi, da je hitro ugotovila, da številni uporabniki prijavljajo objave samo zato, ker se z njimi ne strinjajo. To je seveda kontra efekt želenemu in zato je bilo potrebno hitro ukrepati. Zaradi tega, ker Facebook objave, ki so označene kot lažne, posreduje do “third-party” preiskovalcev, Lyonsova trdi, da je pomembno, da gradimo sisteme, ki to delajo hitreje in učinkoviteje od človeških akterjev. To je pripeljalo do tega, da je njena ekipa razvila sistem, ki oceni človeka, ki je označil objavo kot lažno. S tem je njena ekipa naredila korak naprej k temu, da bi preprečila nerelevantno prijavljanje uporabnikov.

“Eden od faktorjev, ki ga uporabljamo je način, na katerega se uporabniki odzivajo na članke”, pravi Lyonsova. Kot primer je podala zanimive pripetljaje, ko je njihov testni sistem zaznal lažno objavo, medtem ko recimo človek, ki je opravljal vlogo preiskovalca, te objave ni označil kot neprimerne. V tem primeru se pokaže glavna pomanjkljivost sistem, ki ne upošteva dovoljšnjega števila faktorjev.

Dejstvo je, da Facebook nas, uporabnikih, verjetno ve veliko več kot si morda mislimo in kot sami vemo o sebi, vendar pomislimo, kaj takšni sistemi ocenjevanja pomenijo za nas na dolgi rok. Je to morda tista družba, ki jo pogosto spremljamo na televizijskih ekranih, kjer vsak prebivalec dobi številko in počasii izgubi stik z realnostjo, ali pa je to nekaj dobrega, nekaj kar nas bo naredilo bolj varne?