Čo ak sa AI vymkne kontrole? Odborníci vysvetľujú, prečo nemusí existovať tlačidlo, ktoré ju jednoducho vypne

Debata o takzvanom „kill switchi“, teda mechanizme núdzového vypnutia, opäť zosilnela po varovaniach výskumníkov pred možnými rizikami AI. Jeden zo spoluzakladateľov spoločnosti Anthropic tento týždeň pre BBC povedal, že núdzové vypínače pre systémy AI možno bude potrebné zaviesť povinne.

„Z pohľadu kybernetickej bezpečnosti AI označuje pojem ‚kill switch‘ schopnosť prerušiť vykonávanie činnosti agenta AI,“ vysvetlil pre AFP Nicolas Papernot, profesor Torontskej univerzity a odborník na počítačovú bezpečnosť a umelú inteligenciu.

Ak má človek alebo organizácia systém stále pod kontrolou, riešenie môže byť pomerne jednoduché. Prevádzkovateľ mu odoprie prístup k výpočtovému výkonu, ktorý potrebuje na fungovanie, a tým jeho činnosť zastaví.

Situácia sa zásadne komplikuje vo chvíli, keď AI dostane možnosť konať mimo pôvodného prostredia. Papernot uvádza príklad systému použitého na šírenie počítačového červa, teda škodlivého programu schopného vytvárať vlastné kópie. „V takom prípade by sme museli súčasne prerušiť činnosť všetkých kópií, ktoré si červ vytvoril – zariadenie po zariadení po zariadení,“ povedal.

Thierry Poibeau, odborník na AI z francúzskeho Národného centra pre vedecký výskum (CNRS), preto upozorňuje, že predstava jediného vypínača je zavádzajúca. „AI sa v skutočnosti nedá len tak vypnúť,“ povedal. „Po celom svete existuje obrovské množstvo spoločností a najrôznejšie druhy softvéru a služieb. Neexistuje jediný človek, ktorý by kontroloval AI ako celok,“ vysvetlil.

Podľa profesora počítačových vied Husseina Abbassa z Univerzity Nového Južného Walesu je pri centralizovanom systéme AI, ktorý zostáva úplne pod kontrolou svojho prevádzkovateľa, núdzové vypnutie „teoreticky aj prakticky možné“. Pri decentralizovaných systémoch s oprávneniami zasahovať do ďalšieho softvéru, súborov, počítačov či celých systémov je však úplné zastavenie podstatne náročnejšie.

S ďalším rozširovaním umelej inteligencie vzniká aj opačný problém. Čím viac dôležitých činností jej spoločnosť zverí, tým väčšie škody môže spôsobiť samotné núdzové vypnutie.

„Keď sa AI čoraz viac začleňuje do všetkých našich inštitúcií a podnikov a pomocou AI automatizujeme čoraz viac aspektov každodenného života, bude ťažšie používať výpočtový výkon ako núdzový vypínač, pretože to bude znamenať, že sa zastavia aj všetky ostatné legitímne funkcie,“ upozornil Papernot.

Odstavenie systému by tak mohlo zhoršiť alebo zastaviť služby, od ktorých už závisia firmy, verejná správa alebo zdravotnícke zariadenia. Náklady a negatívne dôsledky takéhoto kroku by podľa Papernota mohli byť „obrovské“.

Práve rastúcu závislosť od technológie považuje profesor informatiky na parížskej Sorbonne Jean-Gabriel Ganascia za konkrétnejšie riziko než predstavu AI, ktorá si vytvorí vlastnú vôľu. Diskusia o núdzovom vypínači podľa neho môže podporovať zavádzajúcu predstavu, že práve takýto scenár predstavuje najväčšiu hrozbu umelej inteligencie.

Skeptickí k existenčným varovaniam sú aj niektorí predstavitelia technologického a politického sveta. Americký prezident Donald Trump označil obavy z existenčnej hrozby AI za podvod, zatiaľ čo šéf spoločnosti Meta Mark Zuckerberg odmieta požiadavky na spomaľovanie jej vývoja. Za vhodnejšie poistky považuje trhové stimuly a právnu zodpovednosť.

Odpoveď na otázku, či možno AI vypnúť, tak závisí predovšetkým od toho, čo presne chceme vypnúť. Konkrétny centralizovaný systém pod kontrolou svojho prevádzkovateľa možno zastaviť. Čím viac sa však AI rozšíri medzi rôzne zariadenia, služby a autonómne systémy, tým menej bude realita pripomínať jednoduché stlačenie červeného tlačidla.