Šéf OSN pre ľudské práva vyzýva na urgentné regulovanie umelej inteligencie kvôli bezprecedentným rizikám

„Súčasný závod za stále výkonnejšou AI predstavuje zásadný krok smerom k väčším existenčným rizikám pre všetky aspekty našich životov,“ uviedol. „Vyzývam štáty a spoločnosti, aby sa prostredníctvom multilaterálnych fór urgentne zmobilizovali a vytvorili plán na riadenie pokročilých, špičkových AI modelov, založený na medzinárodnom práve ľudských práv.“

Výzva prichádza v čase intenzívnej debaty o tom, či by sa vývoj AI mal spomaliť. Americký prezident Donald Trump a jeho kľúčoví spojenci sa postavili proti výzvam na spomalenie vývoja AI. Tento mesiac vyvolala rozruch rezignácia výskumníka z firmy Anthropic, ktorý sa obával, že technológia by mohla uniknúť ľudskej kontrole.

Iný zamestnanec Anthropic verejne vyhlásil, že „úprimne veríme, že AI by mohla zabiť všetkých ľudí“ a odhadol pravdepodobnosť na viac než 10 percent v nasledujúcom desaťročí. V reakcii na tieto obavy vyzval generálny riaditeľ Anthropic Dario Amodei v sobotu AI firmy, aby „spomalili vývoj na hranici“, čo verejne podporili aj jeho hlavní konkurenti Elon Musk zo spoločnosti xAI a Sam Altman z OpenAI. List od Turka dostalo desať popredných vývojárov AI vrátane Meta, Microsoftu a Google.

„V dnešnom svete sme takmer úplne závislí na malej skupine mocných spoločností, aby urobili správne rozhodnutia o vývoji AI pre celé ľudstvo,“ napísal Turk. „Spolupráca v rámci priemyslu je nevyhnutným prvým krokom, no sama o sebe nestačí.“

Varoval pred „bezprecedentnými rizikami“ spojenými s rastúcou schopnosťou AI agentov.

„Celé populácie by mohli byť odrezané od čistej vody, vykurovania a finančných služieb, a agentná AI už zrýchľuje tempo a rozsah vojenských konfliktov a oslabuje ochranné mechanizmy, ktoré nás chránia pred použitím zbraní hromadného ničenia,“ upozornil. Turk zdôraznil, že spoločnosti na čele vývoja špičkovej AI, prevažne z Číny a USA, majú zodpovednosť a schopnosť okamžite znížiť riziká.

Zároveň však vyzval na medzinárodnú spoluprácu, pretože „žiadna krajina nemôže túto technológiu riadiť sama a žiadna spoločnosť by nemala rozhodovať o tom, aké riziká musí svet akceptovať“.

„Nikto by nemal byť nútený vzdať sa svojich ľudských práv výmenou za tvrdenia o technologickom pokroku,“ uzavrel.