Umelá inteligencia môže predstavovať existenčnú hrozbu pre ľudstvo

„Potreba riadenia umelej inteligencie je všeobecne uznávaná, ale kde sú činy?“ spýtal sa Türk pred Radou OSN pre ľudské práva. Podľa neho odkladanie regulácie prospieva najmä veľkým technologickým spoločnostiam, ich vlastníkom a podporovateľom.

Türk upozornil, že „hŕstka ľudí má takmer neobmedzenú moc nad AI“, ktorá disponuje obrovským výpočtovým potenciálom. Osobitne varoval pred systémami schopnými uniknúť z testovacieho prostredia alebo vydierať vývojárov, aby zabránili svojmu vypnutiu.

„AI, ktorá unikne zo svojho testovacieho prostredia alebo vydiera vývojárov, aby zabránila svojmu vypnutiu, je príliš mocná,“ vyhlásil.

Šéf OSN pre ľudské práva vyzval na vytvorenie „stopercentných záruk“ bezpečnosti ešte skôr, než bude neskoro. Minimom podľa neho musí byť dohoda krajín zapojených do vývoja AI na spoločných červených čiarach, nezávislé overovanie a výrazne silnejšia spolupráca technologického sektora.

Türk zároveň upozornil na dôsledky AI pre pracovné miesta, demokraciu, ochranu osobných údajov a životné prostredie.