Bývalá softvérová inžinierka Google Laura Nolan varovala, že autonómni roboti môžu počas niekoľkých sekúnd zničiť celé mestá tým, že náhodou spôsobia “bleskovú vojnu“, hlási Daily Star.
Nolan, ktorá minulý rok rezignovala v spoločnosti Google na protest proti tomu, aby bola súčasťou projektu s názvom Maven, ktorého cieľom je zdokonaliť technológiu vojenských robotov v USA, je už dlho zástankyňou zákazu strojov na zabíjanie.
“Je možné, že v situácii, keď je v rovnakej oblasti rozmiestnených mnoho autonómnych zbraní, môžete dôjsť k situácii“ bleskovej vojny “, keď autonómne zbrane reagujú na správanie ostatných autonómnych zbraní takmer okamžite a vytvoria veľmi intenzívny konflikt,“ povedala Nolanová v rozhovore s Daily Star.
“Je to podobné ‘haváriám typu flash’, ktoré sme na akciových trhoch videli v dôsledku automatizovaných obchodných algoritmov,“ vysvetlila bývalá technička spoločnosti Google. “Rozdiel pri bojovaní je, že neexistuje spôsob, ako zaviesť ‘istič’, aký majú burzy cenných papierov zvyčajne pozastavenie obchodovania, keď sa ceny akcií pohybujú príliš rýchlo.“
“V najhoršom prípade by blesková vojna mohla znamenať zničenie celého mesta v priebehu niekoľkých sekúnd,“ varovala.
Laura Nolan je členkou kampane za zastavenie robotov zabijakov (CTSKR), ktorá nalieha na krajiny, aby podpísali zmluvu zakazujúcu použitie autonómnych zbraní, ktoré nevyžadujú ľudskú kontrolu.
Predtým informovala amerických diplomatov v New Yorku a Ženeve o nebezpečenstvách neregulovaných technológií a tvrdila, že bezúdržbové roboty môžu uskutočniť “katastrofálne činy, na ktoré neboli pôvodne programované“, uvádza The Guardian.
“Pravdepodobnosť katastrofy je úmerná počtu týchto strojov v určitej oblasti naraz. To, na čo sa pozeráte, sú možno zverstvá a nezákonné zabíjanie dokonca aj podľa vojnových zákonov, najmä ak sú niekde rozmiestnené stovky alebo tisíce týchto strojov,” povedala Nolanová skôr a naliehala na vlády, aby podrobili pokročilé zbraňové systémy ľudskej kontrole.
Viac ako 3 000 zamestnancov spoločnosti Google, ktorí pracovali spoločne s Nolanovou v programe Maven a pomáhali americkému ministerstvu obrany vybudovať systém strojov, aby rýchlejšie rozlišovali ľudí a predmety, podpísali petíciu protestujúcu proti zapojeniu spoločnosti do projektu. Od roku 2015 sa tisíce odborníkov v oblasti umelej inteligencie spojili, aby podpísali rôzne otvorené listy v rámci kampane CTSKR o zakazovaní používania zabijáckych autonómnych zbraňových systémov.
Generálny riaditeľ Tesla a SpaceX Elon Musk tiež už skôr vyjadril viacero obáv ohľadom rizika neregulovaného vývoja umelej inteligencie a vyvíjajúcich sa schopností robotov, čo naznačuje, že budúca svetová vojna by mohla byť spôsobená konkurenciou na národnej úrovni.