Posebna enota za varstvo človeštva pred umetno inteligenco

Raziskovalci britanske univerze Cambridge so za varstvo človeštva pred izumrtjem predlagali ustanovitev posebne organizacije, katere primarna dejavnost bo podrobno proučevanje vseh ključnih dejavnikov, ki ogrožajo preživetje človeške vrste. Organizacija Centre for the Study of Existential Risk (CSER), katere ustanovitev zagovarjajo inženir, znanstvenik in programer, bo proučevala predvsem tveganja, povezana z biotehnologijo, nanotehnologijo, ekstremnimi podnebnimi spremembami, s termonuklearnimi vojnami in z rojstvom umetne inteligence. Slednje tveganje pa vse bolj skrbi tudi preostale institucije kot na primer organizacijo za človekove pravice Human Rights Watch.

Privrženci organizacije CSER človeštvo svarijo predvsem pred tako imenovano splošno umetno inteligenco (ang. Artificial General Intelligence), saj bi ta »strojem« dala možnost samodejnega pisanja programov ter celo gradnje in upravljanja naprav za izdelovanje robotov. Zaradi tovrstne inteligence bi namreč lahko interes strojev kaj hitro stopil v konflikt z vrsto, ki jih je izdelala. To bi kasneje lahko preraslo celo v vojne, in sicer predvsem zaradi težnje po prevzemu nadzora nad viri, ki so ključni za izdelavo elektronskih komponent in gradnjo mehanskih naprav.

Kaj se bo dejansko zgodilo v bližnji prihodnosti, seveda ne more z gotovostjo napovedati nihče. Strokovnjaki so si tu enotni – če bo človeštvo vztrajalo pri razvoju splošne umetne inteligence in jo podcenjevalo, bo lahko že čez dobro desetletje ogrozilo preživetje lastne vrste.