Ali lahko zaupamo pametnim napravam?

Ali lahko naše glasovne, digitalne in ostale pametne zvočnike ter asistente sprašujemo intimna vprašanja o našem zdravju? Kako pomembno je v resnici, da znanstveniki, ki gradijo umetno inteligentne sisteme, razumejo njihov delovanje? Na ti dve vprašanji bomo poizkusili odgovoriti v spodnjem delu članka.

“Kateri so simptomi Parkinsonove bolezni?” Če ste uporabnik Amazonovega pametnega zvočnika v Veliki Britaniji, bo odgovor po vsej verjetnosti prišel iz baze NHS (“National Health Service“), ki je pred kratkim skelnil partnerski dogovor s tehnološkim gigantom. Glavni rezultat partnerstva je preprosto spletno iskanje, ki prioritizira uporabne in točne informacije. Morda se komu dotično sodelovanje ne zdi sporno, vendar je kar nekaj ljudi takoj skočilo v zrak, ko je bilo sodelovanje med NHS-om in Amazonom potrjeno.

“To, kar skrbi mene je, da se je NHS odločil za partnerstvo z Amazonom, ki nekako spodbuja, da uporabniki delijo svoje zasebne zdravstvene podatke s podjetjem, ki večino svojega dobička ustvarja ravno na podlagi podatkov uporabnikov njihovih storitev”, pravi Silkie Carlo iz skupine Big Brother Watch.

Amazon trdi, da ne bo uporabljal nobenih zdravstvenih podatkov za targetirano oglaševanje, prav tako pa naj ne bi delil podatkov s “third-party” akterji. Carlova kljub temu ni ravno navdušena nad idejo povezovanja: “Kako bodo lahko razlikovali med ljudmi, ki iščejo knjige in glasbo ter ljudmi, ki iščejo informacije o zdravstvenih težavah?”. K temu še dodaja, da če to pomeni, da bo Amazon ustvaril posebno zbirko zdravstvenih podatkov ljudi, potem je to še toliko bolj zaskrbljujoče.

Visoka kvaliteta

William Tunstall-Pedoe, človek, katerega podjetje je razvilo programsko opremo, ki je pozneje postala Alexa, gleda na stvar iz drugačne perspektive. Kljub temu, da ni več povezan z Amazonom, pravi, da so ljudje Aleo spraševali stvari o zdravju že kar nekaj časa. Poleg tega pravi, da je pomembno, da ljudje dobijo kvalitetne informacije, če se da, pozitivne.

“To partnerstvo pomeni, da so informacije visoko kvalitetne in izbrane iz klinično potrjenih virov NHS. Do zdaj te informacije niso imele klinične podlage”, še dodaja Tunstall-Pedoe. Njegovo mnenje je, da je skrb glede tega, kako se bodo uporabljale informacije o našem zdravstvenem stanju, legitimna, vendar bi potem enaka skrb morala biti prisotna pri uporabi vseh spletnih brskalnikov, kjer iščemo podobne informacije.

V času, ko umetne inteligenca in avtonomni sistemi napredujejo s svetlobno hitrostjo, na plano prihajata dva velika problema. Včasih se zgodi, da znanstveniki, ki stojijo za umetno inteligenco, niso ravno prepričani, kaj se dogaja znotraj njihovih sistemov. Po drugi strani pa se včasih zna zgoditi, da uporabniki tehnologije ne vemo, da stroji in naprave odločajo namesto nas.

Raziskovalci na britanski univerzi York imenujejo ta pojav “avtonomija po nesreči”. Profesor John McDermid je podal zanimiv primer: programska oprema, ki naj bi bila kriva za nesreči dveh Boeing 737 letal. “Za to, da bi se podjetje izognilo posebnemu treniranju pilotov, so se pri Boeingu odločili, da jim o sistemu ne povedo.Ta je bil narejen za avtomatsko delovanje v ozadju, za kar se je Boeingu zdelo, da pilotom ni potrebno skrbeti”, je razložil McDermid. K temu dodaja, da je za vitalno programsko opremo nujno, da njeni operaterji – v tem primeru piloti – razumejo, kaj se dogaja v ozadju in da lahko v vsakem trenutku prevzamejo nadzor, če je to potrebno.

Njegova kolegica, dr. Ana Macintosh, pravi, da obstaja širši problem pri razumevanju delovanja kompleksnega AI sistema. “Razložiti odločitve, ki jih sprejme sistem, je precej težje kot nek pogovor s človekom in njegovim načinom razmišljanja” je povedala. “Pogosto ne razumemo, zakaj pride do določenih odločitev”, še dodaja Macintoshova.