OSN a Červený kríž bijú na poplach; vraždiace roboty sú už nebezpečne blízko

„Dnes túto výzvu obnovujeme s ešte väčšou naliehavosťou,“ uviedli generálny tajomník OSN António Guterres a prezidentka MVČK Mirjana Spoljaricová. „Nebezpečne sa približujeme k prekročeniu morálnej červenej čiary: autonómnemu určovaniu ľudských cieľov strojmi.“

Za smrtiace autonómne zbraňové systémy sa všeobecne považujú zbrane, ktoré bez ľudského zásahu samostatne vyberajú ciele a následne proti nim použijú silu. Doteraz nebola oficiálne potvrdená žiadna ich úplne autonómna bojová operácia, no rýchly vývoj umelej inteligencie (AI) a skúsenosti z vojen na Ukrajine a Blízkom východe zvyšujú obavy, že sa to môže čoskoro zmeniť.

Podľa informácií z Ukrajiny, ktoré priniesol denník The New York Times, ruský dron vybavený experimentálnym systémom umelej inteligencie si minulý mesiac v Záporožskej oblasti po priblížení sa k čerpacej stanici údajne sám presne vybral cieľ a zasiahol ho.

Pri výbuchu zahynula 19-ročná študentka Tetiana Bubynecová a ďalší dvaja ľudia. Ukrajinskí odborníci našli v troskách dronov komerčne dostupné minipočítačové moduly, ktoré podľa nich umožňovali autonómne rozhodovanie pri navádzaní na cieľ.

„Je to riziko pre celý svet. O niekoľko rokov budeme žiť vo filme Terminátor. Nie je to žiadny žart. Stroje robia rozhodnutia o útoku,“ povedal veliteľ protivzdušnej obrany v Záporoží Serhij Minajev.

Práve odstránenie človeka z konečného výberu cieľa predstavuje zásadný posun oproti doterajším systémom, pri ktorých umelá inteligencia pomáhala najmä v záverečnej fáze útoku po tom, čo cieľ vybral operátor. Kritici varujú, že autonómne systémy môžu chybne rozlišovať medzi civilistami a bojovníkmi a porušovať pravidlá medzinárodného humanitárneho práva.

Štáty už desať rokov diskutujú o budúcej zmluve regulujúcej autonómne zbrane a v novembri majú rozhodnúť, či začnú plnohodnotné rokovania. Guterres a Spoljaricová vyzvali na politickú odvahu a zdôraznili, že nečinnosť môže stáť životy.

„Ak samotní tvorcovia tejto technológie volajú po stanovení hraníc, štáty si nemôžu dovoliť zostať pasívne,“ uviedli. „Inovácie musia slúžiť ľudstvu, nie ho ohrozovať.“