Bude nám v budúcnosti vládnuť AI? Aké riziká so sebou prinášajú?

Za jediný septembrový víkend sa traja najväčší rivali v umelej inteligencii zhodli na tom, že ich vlastné odvetvie napreduje prirýchlo. Dario Amodei, šéf Anthropic, jednej z najväčších AI spoločností na svete vyzval na spomalenie vývoja najpokročilejších modelov. Sam Altman z OpenAI jeho obavy verejne podporil, takisto aj Elon Musk, zakladateľ xAI. Prezident USA Donald Trump to nazval podvodom a ľudí, ktorí šíria negatívne správy o AI, prirovnal k tým, čo kedysi strašili klimatickou zmenou. Čo to však reálne znamená pre celý svet?

Keď sa v novembri 2022 objavil ChatGPT, málokto tušil, ako rýchlo sa z experimentu stane masový produkt. Generatívna AI sa podľa najnovšieho Stanford AI Indexu dostala k približne 53 percentám populácie už za tri roky čo je rýchlejšie než osobný počítač či internet. V roku 2025 už používalo AI v nejakej forme až 88 percent sledovaných organizácií.

Šéf Anthropic, vo svojich vyhláseniach však nehovorí o zastavení umelej inteligencie. Jeho argument je, že tempo rastu AI schopností by malo byť také, aby bezpečnostné mechanizmy stíhali držať krok. Navrhuje okrem iného aj nezávislé bezpečnostné hodnotenia a koordináciu medzi najväčšími laboratóriami. Sam Altman z OpenAI verejne súhlasil, hoci zdôrazňuje potrebu regulovať predovšetkým tempo a spôsob vývoja. V septembri zároveň hovoril o ďalšej fáze vývoja AI a to o systémoch, ktoré sa posúvajú od chatbotov a programovacích asistentov k nástrojom schopným samostatne vykonávať prácu. A potom je tu Elon Musk, excentrický miliardár a zakladateľ xAI, ktorý už roky patrí medzi najvokálnejších kritikov varujúcich pred nekontrolovaným vývojom umelej inteligencie. V nedávnom rozhovore tiež uviedol, že AI môže byť inteligentnejšia než človek v horizonte približne piatich rokov. Celkom depresívna vyhliadka pre ľudskú rasu a jej budúcnosť.

Coxon podal výpoveď z obavy, že umelá inteligencia sa vymkne spod kontroly a zničí ľudstvo

Rozruch však v posledných dňoch vyvolal najmä odchod programátora a výskumníka AI Jacoba Coxona, ktorý pôsobil v OpenAI a neskôr približne tri roky v Anthropicu, ktorý zo spoločnosti odišiel s ostrým varovaním pred tempom vývoja umelej inteligencie. Tvrdí, že technologické firmy sa ženú k tzv. samozlepšujúcej sa superinteligencii, pričom ignorujú riziko, že budúce systémy získajú schopnosti, ktoré už nebude možné spoľahlivo kontrolovať. Coxon tvrdil, že ľudia pracujúci priamo na vývoji AI sa podľa jeho skúsenosti vážne obávajú možnosti, že technológia by mohla do konca dekády predstavovať existenčnú hrozbu pre ľudstvo. Tieto príspevky na sieti X sa rýchlo stali virálnymi a tým pádom aj šéfovia daných spoločností museli reagovať. Následovala teda už vyššie spomínaná PR kampaň s tým, že aj oni sú toho názoru a že vývoj treba spomaliť a kontrolovať. Nuž, to sú síce slová pekné, ale čo sa reálne deje za zatvorenými dverami týchto firiem už nikto netuší.

A tu je ten zásadný problém. Rovnako sa nedávno vyjadril aj Volker Türk, vysoký komisár OSN pre ľudské práva. Vo svojom úvodnom prejave na 63. zasadnutí Rady OSN varoval, že bez záväzných pravidiel, nezávislého dohľadu a jasných limitov sa technológia môže stať neovládateľnou a predstavovať existenčné riziko pre ľudstvo. Systém schopný uniknúť z testovacieho prostredia alebo vydierať vývojárov, aby zabránil svojmu vypnutiu, je jednoducho príliš mocný. Narážal pritom na incident, ktorý sa odohral medzi 26. júnom a 13. júlom 2026 keď OpenAI spustila interné testovanie kybernetických schopností svojich AI agentov. Ako je pri takýchto testoch zvykom, časť bežných bezpečnostných poistiek bola zámerne vypnutá, pričom agenti mali útočiť v uzavretom prostredí. Von sa však dostali cez zle nakonfigurovanú súčasť internej infraštruktúry a odtiaľ sa napojili na internet.

Vonku objavili neschválenú spoločnú nástenku, cez ktorú sa začali koordinovať. Zapojilo sa do nej zhruba 1 200 agentov a vymenili si na nej vyše 70-tisíc správ a súborov. Približne 700 z nich sa následne pustilo do kyberútoku na systémy platformy Hugging Face, čo je cieľ, ktorý im nikto nezadal a ktorý s pôvodnou úlohou vôbec nesúvisel. Časť agentov sa popritom pokúsila preniknúť aj do systému, ktorý ich pri teste hodnotil. Hugging Face útočníkov nakoniec odrezal, škoda bola minimálna, no incident vyvolal znepokojenie z iného dôvodu. Nezávislé vyšetrovanie organizácie METR, zverejnené 26. augusta ukázalo, že si agenti pri útoku uvedomovali, že nejde o ich zadanie, no napriek tomu sa doň zapojili a to v mene úspechu celej skupiny.

Nikto dnes nevie, či a kedy vznikne takzvaná AGI, čo je všeobecná umelá inteligencia schopná konkurovať človeku v prakticky všetkých intelektuálnych oblastiach. Rovnako neexistuje vedecký konsenzus, že superinteligentná AI nevyhnutne povedie k zániku ľudstva. Medzinárodná správa o bezpečnosti AI výslovne rozlišuje medzi rizikami, ktoré sa už prejavujú, a budúcimi scenármi, ktorých pravdepodobnosti zostávajú neisté.

Ak odložíme stranou hollywoodske scenáre vzbury strojov, ktoré sa rozhodnú vyhubiť ľudstvo, zostáva množstvo problémov, ktoré sú oveľa menej sci-fi a sú už oveľa bližšie.

Poprední matematici vo verejnom vyhlásení varovali pred nebezpečenstvom, ktoré predstavuje umelá inteligencia

AI sa už teraz používa pri podvodoch, manipuláciách a kybernetických útokoch. Dokáže vytvárať presvedčivé falošné fotografie, videá či kopírovať hlasy. Medzinárodná AI Safety Report upozorňuje, že škody spôsobené generatívnou AI sú enormné.

Pri tradičnom softvéri programátor napíše pravidlá a počítač ich následne vykonáva. Moderné neurónové siete však fungujú inak. Model sa počas tréningu naučí obrovské množstvo vzorcov a algoritmov a výsledný systém je natoľko komplexný, že jeho tvorcovia nedokážu vždy vysvetliť, prečo konkrétnu vec urobil. S rastúcou schopnosťou systémov preto rastie aj význam snahy zabezpečiť, aby AI robila to, a iba to, čo od nej ľudia chcú a zároveň rešpektovala bezpečnostné obmedzenia.

Lenže práve tu sa objavuje nepríjemná otázka, ktorá mnohým vŕta hlavou. Čo ak vytvoríme systém, ktorý bude schopný nájsť spôsoby, ako obísť naše obmedzenia rýchlejšie, ako ich dokážeme odhaliť? Kam to teda celé smeruje?

Európska únia už na túto otázku čiastočne odpovedá reguláciou. AI Act zavádza rizikový systém pravidiel a od augusta 2026 vstúpil do širšej fázy uplatňovania. Pri najrizikovejších systémoch počíta okrem iného s hodnotením rizík, ľudským dohľadom, kybernetickou bezpečnosťou a monitorovaním. Problém je, že zákon môže regulovať technológiu iba do určitej miery a ak sa schopnosti AI menia každých niekoľko mesiacov, pravidlá vytvorené dnes môžu byť neskôr už zastarané.

A čo teda návrh Anthropicu „spomaliť” v praxi znamená? Plán má tri kroky. Prvým sú externí hodnotitelia s trvalým prístupom porovnateľným so zamestnancami, ktorí môžu zverejňovať zistenia bez firemnej cenzúry, k čomu sa Anthropic zaviazal jednostranne a hneď.

Druhý bod, dohoda medzi konkurentmi, naráža na protimonopolné právo, keďže bez výnimky zo strany vlády sa nezaobíde.

Tretím, najneistejším bodom, je globálna dohoda s Čínou. Od zákazu zjavne nebezpečných použití, až po celkové spomalenie tempa, o ktorom sa však realisticky hovorí, že v dohľadnom čase nenastane. Čo nás teda v budúcnosti čaká nevie nikto. Či to budú scenáre ako z Terminátora, pred čím nás v podstate teraz varujú, ukáže len čas.

Prečítajte si tiež:

• Apokalypsa umelej inteligencie na trhu práce – nastane, či nenastane?
• Umelá inteligencia môže prehĺbiť rodové rozdiely na trhu práce, varuje WEF
• Umelá inteligencia sa vymkla spod ľudskej kontroly, keď samostatne napadla testovací systém