Otázka etiky: Mala by byť umelá inteligencia nasadená vo vojne?

Bratislava 6. októbra 2022 (HSP/Foto:screenshot)

Zákony robotiky boli definované spisovateľom Isaacom Asimovom v jeho dielach o robotoch prvýkrát ešte v marci 1942 v poviedke Runaround:

• Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
• Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
• Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

To, čo sa v súčasnosti odohráva vo vývojových projektoch väčšiny zbrojárskych spoločností po celom svete (pričom jednoznačne vedú tie anglosaské, sponzorujúce GLOBSEC), je samozrejme v príkrom rozpore s prvým zákonom robotiky, pričom mnohí významní vedci, vizionári a podnikatelia varovali, že umelá inteligencia môže priviesť k zániku ľudstva. Vedec Stephen Hawking varoval pred „extrémnou formou umelej inteligencie, pri ktorej by sa mysliace stroje „naštartovali” samy, modifikovali sa a nezávisle navrhovali a vytvárali čoraz schopnejšie systémy. Ľudia, viazaní pomalým tempom biologickej evolúcie, by boli prekonaní s tragickými dôsledkami.“ Čo hovorí Elon Musk o umelej inteligencii? „Obávam sa, že umelá inteligencia by jedného dňa mohla prekonať ľudí a ohroziť nás,“ pričom umelú inteligenciu označil za najväčšiu hrozbu pre civilizáciu.

Nad témou nasadenia umelej inteligencie v ozbrojených konfliktoch sa zamyslel aj portál Modern Diplomacy. To najzaujímavejšie vám prinášame:

Štvrtá priemyselná revolúcia je v súčasnosti poháňaná prudkým technologickým pokrokom. Rýchly rast veľkých dát, kvantovej výpočtovej techniky a internetu vecí (IoT) skutočne mení všetky ľudské činnosti – vytvára nové obchodné modely, odstraňuje geografické hranice a mení rozhodovací proces nielen na úrovni jednotlivca, ale aj na úrovni štátu. Ovplyvnila tiež všetky ľudské dimenzie, od hospodárskych a sociálnych odvetví až po politickú sféru. Jedným z výsledkov tejto transformácie je vznik umelej inteligencie (UI). Umelá inteligencia je určená na rozpoznávanie reči, učenie, plánovanie a riešenie problémov. Vo všeobecnosti sa UI opisuje ako stroj, ktorý sa dokáže sám učiť, prípadne napodobniť fungovanie ľudského mozgu.

V posledných niekoľkých desaťročiach dosiahli vedci v súvislosti s vývojom UI prelomový pokrok, ktorý výrazne prevyšuje prognózy odborníkov v tejto oblasti. Odborník na umelú inteligenciu, ktorý v roku 2014 vytvoril program hrajúci Go, známy aj ako Alpha Go, uviedol, že bude trvať ďalších desať rokov, kým počítač prekoná ľudského šampióna v hre Go. O rok neskôr však výskumník zo spoločnosti Google DeepMind úspešne vytvoril technológiu na jeho zdolanie. Od tohto momentu napreduje umelá inteligencia závratnou rýchlosťou. Podľa Grega Allena a Taniela Chana v ich výskume o umelej inteligencii a národnej bezpečnosti je vývoj umelej inteligencie poháňaný niekoľkými kľúčovými faktormi, medzi ktoré patria: (1) exponenciálny rozvoj výpočtovej kapacity; (2) zväčšovanie súboru údajov; (3) pokrok v uplatňovaní metódy a algoritmu strojového učenia; a predovšetkým (4) rýchly rast záujmu podnikov a investícií do umelej inteligencie.

V posledných rokoch došlo k širokému využitiu umelej inteligencie a možno ju nájsť v rôznych programoch a technologických zariadeniach. UI pomáha ľuďom mapovať a zameriavať sa na trhy, zabezpečuje bezpečnejšie cestovanie prostredníctvom inteligentného auta alebo autonómneho auta, pomáha ľuďom predpovedať počasie a mnoho ďalšieho. Rozširovanie UI má sľubnú budúcnosť v mnohých odvetviach vrátane vojenského priemyslu. Jej existencia sa stala obrovským zlomom pri vytváraní autonómnych zbraní, vozidiel a logistických nástrojov, ktoré by mohli zvýšiť vojenské kapacity. Robert Work vo svojej poznámke na Inauguračnom fóre národnej bezpečnosti CNAS v roku 2015 uviedol, že svetoví lídri rýchlo rozpoznali revolučný potenciál umelej inteligencie ako kritickej zložky národnej bezpečnosti. Dokazujú to rastúce globálne investície do umelej inteligencie pre národnú bezpečnosť a rastúce využívanie umelej inteligencie v obrannej stratégii.

Využitie umelej inteligencie vo vojenskom sektore

Od druhej svetovej vojny boli na bojiskách nasadené mnohé poloautonómne zbrane. Tieto typy zbraňových systémov sa neustále vyvíjajú v mnohých krajinách. Masívny rozvoj umelej inteligencie, podporovaný rozsiahlymi investíciami do tohto sektora, zmenil poloautonómne zbrane na plne autonómne. Jedným z prvých vedľajších produktov tohto významného vývoja boli bezpilotné lietadlá (UAV), ktoré USA nasadili najmä v Kosove v roku 1999. Obrana USA vtedy ešte dôkladne neskúmala, ako by táto technológia mohla ovplyvniť budúce vojenské akcie.

Ak sa posunieme o dve desaťročia neskôr od prvého použitia bezpilotných lietadiel vo vojenských operáciách vidíme, že vláda USA úspešne a výrazne zlepšila aspekty umelej inteligencie v zbraňových systémoch. Do roku 2019 bezpilotné plavidlo Sea Hunter, ktoré vlastní námorníctvo Spojených štátov, úspešne preplávalo bez posádky z Kalifornie na Havaj. Navigovala ho umelá inteligencia pomocou súboru údajov zozbieraných palubnými senzormi, radarmi a kamerami plavidla. Ďalej americká Agentúra pre pokročilé obranné výskumné projekty (DARPA) spustila v roku 2020 projekt stíhacieho lietadla F-16 poháňaného UI. Počas niektorých skúšok dokázalo toto lietadlo poraziť porovnateľnú simuláciu riadenú veľmi skúseným človekom. Zvýšil sa aj počet finančných prostriedkov, ktoré americké ministerstvo obrany investuje do vývoja UI – zo 600 miliónov USD v rokoch 2016 – 2017 na 2,5 miliardy USD v rokoch 2021 – 2022. Tento trend registrujeme nielen v USA.

Čína v súčasnosti využíva UI na zvýšenie rýchlosti a presnosti taktického rozhodovania prostredníctvom automatizácie svojho systému velenia a riadenia. Tento postup účinne zaviedol prediktívne operačné plánovanie. Okrem toho čínska vláda už začala testovať bezpilotné plavidlá s podporou UI pre budúce použitie v Juhočínskom mori. Rusko síce zaostáva, ale Putin pravdepodobne nechce byť v týchto pretekoch vylúčený, keďže vláda si stanovila cieľ, aby sa do roku 2025 robotizovalo 30 % všetkých ozbrojených síl krajiny. Rusko tiež pracuje na viacerých frontoch tým, že vykonáva výskum zameraný na využívanie umelej inteligencie v informačných operáciách a zvyšovanie efektívnosti pozemných vojenských operácií. To naznačuje, že UI získala významnú popularitu v rôznych štátoch, najmä pokiaľ ide o jej vojenské využitie. Zdá sa, že perspektíva vojen s využitím robotov s minimálnou alebo dokonca žiadnou ľudskou účasťou bude v budúcnosti nevyhnutná.

Nasadenie umelej inteligencie vo vojne: Proti ľudskej etike?

Spolu s technologickým rozvojom sa rozvíja aj vojenstvo; obe oblasti sú navzájom prepojené. Nástup umelej inteligencie tu prináša rovnaký, ak nie ešte väčší efekt. Prvé náznaky jasne ukázali, ako bude umelá inteligencia zohrávať významnú úlohu pri formovaní budúcich vojen. Aj keď sa umelá inteligencia ešte len musí otestovať v drsnom prostredí prirodzeného sveta bojových operácií, jej perspektívu pre budúce vojny nemožno ignorovať. Napriek všetkým jej prínosom pre zlepšenie obranných a útočných schopností štátu však čoraz častejšie zavádzanie UI do vojenských síl vyvoláva diskusiu, ktorá sa týka najmä právnych, etických a bezpečnostných hľadísk. Súčasný vývoj UI dokáže riešiť niektoré špecifické problémy dôslednejšie ako ľudia. Dokáže odhaliť vzory a anomálie v rozsiahlych neštruktúrovaných údajoch rýchlejšie ako ľudia. Podľa Petra Laytona v jeho publikácii – Fighting Artificial Intelligence Battle: Operational Concept for Future AI-Enabled Wars – má najnovšia generácia UI vplyv v piatich hlavných oblastiach vrátane identifikácie, zoskupovania, generovania, predpovedania a plánovania. Ľudia môžu tieto činnosti vykonávať, ale UI dokáže tieto úlohy vykonávať efektívnejšie a oveľa rýchlejšie.

Napriek tomu je potrebné zvážiť niektoré aspekty ďalšieho nasadenia UI vo vojenstve. Pri všetkej jeho inteligencii, ktorú môže stroj s UI využívať, je stále zraniteľný voči kybernetickým útokom, čo prináša väčšie obavy z jeho bezpečnosti. Okrem toho sa stále ukazuje, že UI sa nedokáže prispôsobiť drobným zmenám. Stále má problémy s aplikáciou rovnakých znalostí v rôznych kontextoch. A keďže ide o ľudský život, tento nedostatok je viac-menej neprijateľný. Vo vojnovej situácii, kde ide o život a smrť, by odstránenie ľudského faktoru  v rozhodovacom procese ohrozilo základnú morálku a etiku. Koniec koncov, umelá inteligencia nie je človek; vo všeobecnom kontexte by nemala byť tým, kto rozhoduje namiesto človeka.