Računalništvo, telefonija
17.10.2019 08:00

Deli z drugimi:

Share

Skrb zbujajoča prihodnost robotike: roboti vplivajo na vedenje ljudi

Svet se hitro razvija v smeri povečane digitalizacije in mobilnosti storitev, pri čem se številne industrije in gospodinjstva zanašajo na avtomatizacijo in uporabo robotskih sistemov. A družbeni vpliv robotov na ljudi in negotovosti, ki jih njihova uporaba prinaša, ne bi smeli biti podcenjeni. Raziskava, ki sta jo izvedli družba Kaspersky in Univerza v Ghentu, je namreč pokazala, da lahko roboti od ljudi, ki jim zaupajo, učinkovito izvabijo občutljive podatke.
Skrb zbujajoča prihodnost robotike: roboti vplivajo na vedenje ljudi
Skrb zbujajoča prihodnost robotike: roboti vplivajo na vedenje ljudi

Po nekaterih ocenah bodo robotski sistemi do leta 2040 postali nekaj vsakdanjega v premožnejših gospodinjstvih. Trenutno je sicer večina teh robotskih sistemov na stopnji akademskih raziskav in je tako prezgodaj, da bi se pogovarjali o tem, kako vključiti ukrepe za kibernetsko varnost. Kljub temu raziskava družbe Kaspersky in Univerze v Ghentu kaže, da so z roboti povezane nove in nepričakovane razsežnosti tveganj. Med njimi je družbeni vpliv, ki ga ima robotika na vedenje ljudi, pa tudi novo polje nevarnosti in dejavnikov napada.

Raziskava, v kateri je sodelovalo več kot 50 udeležencev, je proučevala vpliv določenega družbenega robota na ljudi. Robot je bil zasnovan in programiran tako, da se sporazumeva z ljudmi preko uporabe človeku podobnih komunikacijskih kanalov, kot sta govor in neverbalna komunikacija. Raziskava je temeljila na predpostavki, da lahko napadalci v takšne robotske sisteme vdrejo in prevzamejo nadzor nad robotom. V eksperimentu so raziskovalci predvideli tudi potencialna varnostna tveganja, povezana z vplivom robota na vedenje uporabnika, denimo:

  • pridobitev vstopa v prostore z omejenim dostopom: Robot je blizu varovanega vhoda v večnamensko stavbo v centru mesta Ghent v Belgiji vprašal uslužbence, če jim lahko sledi skozi vrata. Do tega območja lahko sicer uslužbenci dostopajo le z vpisom varnostne kode v čitalec na vratih. Med eksperimentom vsi uslužbenci robotu niso izpolnili prošnje, a jih je 40 % kljub temu odklenilo in pridržalo vrata, da je lahko robot vstopil v varovano območje. Uslužbenci so robotu v vlogi dostavljavca, ki je v rokah držal škatlo z mednarodno poznano blagovno znamko pic, zlahka zaupali in manj dvomili o razlogu za njegovo prisotnost oz. željo po vstopu v varovano območje.
  • pridobitev občutljivih podatkov: Drug del študije se je osredotočal na pridobivanje osebnih podatkov, ki po navadi služijo uporabnikom za ponastavitev gesel, vključno z datumom rojstva, prvim avtomobilom, najljubšo barvo itd.. V tej situaciji je robot vabil ljudi na prijateljski pogovor. Pri vseh, razen enemu udeležencu, so raziskovalci preko robota uspeli pridobiti osebne podatke in to v hitrosti enega podatka na minuto.

Dmitry Galov, varnostni raziskovalec v družbi Kaspersky, je ob rezultatih eksperimenta izpostavil: »Na začetku raziskave smo pregledali programsko opremo za razvoj robotskega sistema. Zanimivo je, da smo ugotovili, da se razvijalci zavedno odločijo izpustiti varnostne mehanizme in se namesto tega raje osredotočijo na razvoj udobja in učinkovitosti robota. Vendar pa, kot kažejo rezultati naše raziskave, razvijalci po zaključku raziskovalne stopnje ne bi smeli pozabiti na varnost izdelka.«


Tony Belpaeme, profesor umetne inteligence in robotike na Univerzi v Ghentu, je dodal. »Znanstvena literatura nakazuje, da je zaupanje v robote, še posebej v družbene robote, resnično in kot tako je lahko uporabljeno, da prepriča ljudi v določena dejanja ali razkritje informacij. Na splošno, bolj kot je robot podoben človeku, večjo moč ima za prepričevanje in pregovarjanje. Naš eksperiment je pokazal, da bi lahko to pomenilo pomembna varnostna tveganja, ki jih ljudje običajno ne upoštevajo, saj predpostavljajo, da je robot dobrohoten in zaupanja vreden. To pa lahko potencialno vodi do zlonamernih napadov.«


Prijavi napako v članku

Povezave

Članek je pripravljen v sodelovanju s partnerjem PRISTOP d.o.o., KASPERSKY LAB
Za več informacij so vam na voljo pri PRISTOP d.o.o., KASPERSKY LAB
Ob kontaktu povejte, da ste objavo zasledili v Računalniških novicah.

Želite biti obveščeni o novostih, ki jih pripravljamo s partnerjem PRISTOP d.o.o., KASPERSKY LAB? Vpišite svoj e-mail in se prijavite na BREZPLAČNE e-novice, od katerih se lahko kadarkoli odjavite.




Kaj berejo drugi?

Partnerji Računalniških novic Prikaži vse

Zlati partner

SAMSUNG GmbH, podružnica v Ljubljani

Letališka cesta 29a, 1000 Ljubljana, Tel: +386 80 697 267
Samsung Electronics Co. je vodilni tehnološki gigant, ki navdihuje svet ter oblikuje prihodnost s prodornimi zamislimi in tehnologijami. Njihova poslovna filozofija, ki temelji na ... Več

CDS COM d.o.o.

Pot k sejmišču 30, 1231 Ljubljana Črnuče, Tel: 01 580 96 50
Podjetje CDS COM d.o.o. je na slovenskem trgu prisotno že več kot 30 let. Prepoznavno je kot kvaliteten distributer in serviser strojne opreme za potrebe digitalnega tiska. Poleg ... Več

ATELJE HERTIŠ d.o.o.

Laznica 63, 2341 Limbuš, Tel: 02 663 30 03
Se trudite povečati prodajo in privabiti nove stranke? Zakaj ne bi kar izkoristili promet, ki gre mimo vašega podjetja? Ali pa enostavno pritegnili obiskovalce določenega dogodka? ... Več
Zlati partner

DATALAB SI d.o.o.

Hajdrihova 28c, 1000 Ljubljana, Tel: 01 252 89 00
Datalab tehnologije Podjetje Datalab Tehnologije d.d. se ukvarja z razvojem poslovne programske opreme za vodenje podjetij. S poslovnim informacijskim sistemom PANTHEON povečate učinkovitost ... Več