Keď umelá inteligencia „stráži“ červené tlačidlo

Umelá inteligencia (UI) prináša okrem prínosov aj významné riziká. Najvýraznejšie sa to prejaví v rušení pracovných miest, zvlášť u juniorských pozícii „bielych kolárikov“ (administratívne pozície, ktoré pracujú s dátami, napr. programátori, právnici), pretože UI dokáže informácie spracovať omnoho rýchlejšie.

Vytváranie umelých obrázkov a videí, napodobňovanie  ľudských hlasov vedú nielen k tvorivému vyblázneniu autorov na youtube, ale môžu generovať veľmi presvedčivé personalizované podvody prostredníctvom emailov, či mobilných telefónov. Tvorivosť UI sa však pri tom nezastavuje. Už dnes produkujú falošné fotografie, ktorými kompromitujú rôzne osobnosti.

Európska únia v zápase UI prehráva s Čínou i s USA. Regulačné orgány očakávajú najmä transparentnosť a bezpečnosť UI. Najväčšie nebezpečenstvo však nedokážu vynútiť.

„Jadrové odstrašovanie spočíva na pochmúrnom princípe: žiadna krajina by si nemala myslieť, že môže spustiť ničivý prvý úder a vyhnúť sa odvete,“ uvádza Boaz Golany v National Interest.

Balistické rakety sú schopné zasiahnuť svoj cieľ do 20 minút. Za ten čas človek musí vyhodnotiť, či ide o falošný poplach alebo skutočný útok. Vyhodnotenie radarových informácií človekom pri počítači a následné schvaľovanie štruktúrami generálneho štábu až po prezidenta sa do tej dvadsať minútovej lehoty nemusí celkom vtesnať. Človek chybí, človek zvažuje, znova kontroluje dáta tam, kde má rýchla UI celkom jasno. „Systém musí byť schopný konať, keď ľudské autority nie sú k dispozícii. Táto autonómia však eliminuje možnosť ľudského zásahu, keď je v stávke najviac,“ uvádza Golany.

Záznamy ukazujú, prečo je dôležitý úsudok aj napriek neistote. V roku 1983 sovietsky dôstojník Stanislav Petrov usúdil, že varovania zo strany satelitov pred prichádzajúcimi americkými raketami boli nepravdivé. Jeho rozhodnutie pomohlo zabrániť eskalácii varovného incidentu do globálnej jadrovej vojny.

„Automatizovaný systém navrhnutý tak, aby prekonal váhanie, nemusel prejavovať rovnakú opatrnosť,“ varuje Golany. UI môže presne dodržať pravidlá aj vtedy, keď sa tie pravidlá ukážu ako nedostatočné pre nepredvídanú situáciu. Systém navrhnutý tak, aby zaručil jadrovú odvetu, by preto mohol úspešne splniť svoju úlohu – a spustiť jadrovú výmenu, ktorú by žiadna prežívajúca ľudská autorita neschválila.

Účelom jadrového odstrašovania je zabrániť jadrovej vojne, nie zaručiť, že jadrové zbrane budú odpálené za každých predstaviteľných okolností.