NAJČÍTANEJŠIE










.

Čo ak sa AI vymkne kontrole? Odborníci vysvetľujú, prečo nemusí existovať tlačidlo, ktoré ju jednoducho vypne

Predstava je jednoduchá: ak by sa systém umelej inteligencie začal správať nebezpečne, človek stlačí núdzové tlačidlo a vypne ho. Podľa odborníkov je však realita podstatne komplikovanejšia. Jednotlivý systém AI možno za určitých podmienok odstaviť, žiadne centrálne tlačidlo schopné „vypnúť umelú inteligenciu“ ako celok neexistuje

Ilustračné foto / Foto: Pixabay
▶ ❚❚ ↻
.

Debata o takzvanom „kill switchi“, teda mechanizme núdzového vypnutia, opäť zosilnela po varovaniach výskumníkov pred možnými rizikami AI. Jeden zo spoluzakladateľov spoločnosti Anthropic tento týždeň pre BBC povedal, že núdzové vypínače pre systémy AI možno bude potrebné zaviesť povinne.

„Z pohľadu kybernetickej bezpečnosti AI označuje pojem ‚kill switch‘ schopnosť prerušiť vykonávanie činnosti agenta AI,“ vysvetlil pre AFP Nicolas Papernot, profesor Torontskej univerzity a odborník na počítačovú bezpečnosť a umelú inteligenciu.

Ak má človek alebo organizácia systém stále pod kontrolou, riešenie môže byť pomerne jednoduché. Prevádzkovateľ mu odoprie prístup k výpočtovému výkonu, ktorý potrebuje na fungovanie, a tým jeho činnosť zastaví.

Situácia sa zásadne komplikuje vo chvíli, keď AI dostane možnosť konať mimo pôvodného prostredia. Papernot uvádza príklad systému použitého na šírenie počítačového červa, teda škodlivého programu schopného vytvárať vlastné kópie. „V takom prípade by sme museli súčasne prerušiť činnosť všetkých kópií, ktoré si červ vytvoril – zariadenie po zariadení po zariadení,“ povedal.

Thierry Poibeau, odborník na AI z francúzskeho Národného centra pre vedecký výskum (CNRS), preto upozorňuje, že predstava jediného vypínača je zavádzajúca. „AI sa v skutočnosti nedá len tak vypnúť,“ povedal. „Po celom svete existuje obrovské množstvo spoločností a najrôznejšie druhy softvéru a služieb. Neexistuje jediný človek, ktorý by kontroloval AI ako celok,“ vysvetlil.

.

Podľa profesora počítačových vied Husseina Abbassa z Univerzity Nového Južného Walesu je pri centralizovanom systéme AI, ktorý zostáva úplne pod kontrolou svojho prevádzkovateľa, núdzové vypnutie „teoreticky aj prakticky možné“. Pri decentralizovaných systémoch s oprávneniami zasahovať do ďalšieho softvéru, súborov, počítačov či celých systémov je však úplné zastavenie podstatne náročnejšie.

S ďalším rozširovaním umelej inteligencie vzniká aj opačný problém. Čím viac dôležitých činností jej spoločnosť zverí, tým väčšie škody môže spôsobiť samotné núdzové vypnutie.

„Keď sa AI čoraz viac začleňuje do všetkých našich inštitúcií a podnikov a pomocou AI automatizujeme čoraz viac aspektov každodenného života, bude ťažšie používať výpočtový výkon ako núdzový vypínač, pretože to bude znamenať, že sa zastavia aj všetky ostatné legitímne funkcie,“ upozornil Papernot.

Odstavenie systému by tak mohlo zhoršiť alebo zastaviť služby, od ktorých už závisia firmy, verejná správa alebo zdravotnícke zariadenia. Náklady a negatívne dôsledky takéhoto kroku by podľa Papernota mohli byť „obrovské“.

Práve rastúcu závislosť od technológie považuje profesor informatiky na parížskej Sorbonne Jean-Gabriel Ganascia za konkrétnejšie riziko než predstavu AI, ktorá si vytvorí vlastnú vôľu. Diskusia o núdzovom vypínači podľa neho môže podporovať zavádzajúcu predstavu, že práve takýto scenár predstavuje najväčšiu hrozbu umelej inteligencie.

.

Skeptickí k existenčným varovaniam sú aj niektorí predstavitelia technologického a politického sveta. Americký prezident Donald Trump označil obavy z existenčnej hrozby AI za podvod, zatiaľ čo šéf spoločnosti Meta Mark Zuckerberg odmieta požiadavky na spomaľovanie jej vývoja. Za vhodnejšie poistky považuje trhové stimuly a právnu zodpovednosť.

Odpoveď na otázku, či možno AI vypnúť, tak závisí predovšetkým od toho, čo presne chceme vypnúť. Konkrétny centralizovaný systém pod kontrolou svojho prevádzkovateľa možno zastaviť. Čím viac sa však AI rozšíri medzi rôzne zariadenia, služby a autonómne systémy, tým menej bude realita pripomínať jednoduché stlačenie červeného tlačidla.

V tomto článku sme sa venovali konkrétnej téme, ak máte chuť pokračovať v čítaní, určite si nenechajte ujsť aj ďalší článok Festival Nežná! prinesie oslavy do miest v SR aj v zahraničí , v ktorom sa venujeme inej oblasti a prinášame ďalšie zaujímavé pohľady a praktické informácie.

Prihláste sa k odberu newslettra Hlavných správ
Pošlite nám tip Pridajte si nás ako preferovaný zdroj v Google
Podpora od vás, našich čitateľov, je pre nás najdôležitejšia – Hlavné správy
.

Nový diskusný systém Kvôli mnohým sťažnostiam na diskusný systém Disqus, ktorý sme doteraz používali, sme sa rozhodli implementovať na stránku nový diskusný systém Quantam.
Nejaký čas budú tieto dva diskusné systémy na stránke fungovať paralelne, ale potom diskusný systém Disqus odpojíme a zostane iba nový diskusný systém Quantam.
Vytvorte si preto prosím svoj profil v novom diskusnom systéme Quantam, je to veľmi jednoduché.
Vaše názory, pripomienky a postrehy nám píšte na mail hlavnespravy@hlavnespravy.sk



.


Kňazské páry z Košickej eparchie absolvovali duchovnú obnovu v Krakove

Rada pre rodinu Košickej eparchie zorganizovala počas víkendu 13. až 15. novembra 2026 duchovnú obnovu pre kňazské manželské páry. Stretnutie…

17. 11. 2026 | Svetonázor | 1 min. čítania |
17. 11. 2026 | Svetonázor | 1 min. čítania |

Volodin pohrozil Kallasovej, že ju pošle na 20 rokov za mreže za „hlúpe výroky“

Šéfke európskej diplomacie Kaji Kallasovej hrozí až 20 rokov väzenia za verejné vyhlásenie o zámere ukradnúť osobné údaje účastníkov špeciálnej…

17. 11. 2026 | Zo zahraničia | 2 min. čítania |
17. 11. 2026 | Zo zahraničia | 2 min. čítania |

Tržby slovenských ubytovateľov prekonali 255 miliónov eur

Tržby ubytovacích zariadení na Slovensku dosiahli v treťom štvrťroku 2026 takmer 256 miliónov eur bez DPH, čo predstavuje medziročný nárast…

17. 11. 2026 | Ekonomika | 2 min. čítania |
17. 11. 2026 | Ekonomika | 2 min. čítania |

SaS predstavila 17 záväzkov, chce posilniť demokraciu a právny štát

Opozičná strana Sloboda a Solidarita predstavila pri príležitosti 37. výročia Nežnej revolúcie 17 záväzkov pod názvom Reštart slobody. Ich cieľom…

17. 11. 2026 | Z domova | 2 min. čítania |
17. 11. 2026 | Z domova | 2 min. čítania |

Soul nasadil stíhačky po tom, čo ruské vojenské lietadlá vstúpili do jej vzdušnej zóny

Južná Kórea uviedla, že nasadila stíhačky a vykonala taktické manévre po tom, čo niekoľko ruských vojenských lietadiel vstúpilo do jej…

17. 11. 2026 | Zo zahraničia | 2 min. čítania |
17. 11. 2026 | Zo zahraničia | 2 min. čítania |

.
.
HS

NAŽIVO

Vstupujete na článok s obsahom určeným pre osoby staršie ako 18 rokov.

Potvrdzujem že mám nad 18 rokov
Nemám nad 18 rokov
.