„Na našich spoločnostiach sa uskutočňuje experiment bez plánu a bez súhlasu. To je neudržateľné,“ povedal Guterres. Podľa neho už systémy umelej inteligencie nie sú iba nástrojmi vykonávajúcimi pokyny, ale čoraz častejšie samostatne píšu kód, konajú v online priestore a prijímajú rozhodnutia s obmedzeným ľudským dohľadom.

Šéf OSN zároveň varoval pred rastúcou koncentráciou moci v rukách niekoľkých technologických spoločností a štátov. Mnohé krajiny podľa neho nemajú žiadny vplyv na rozhodnutia, ktoré budú formovať ich budúcnosť.

Guterres ocenil potenciál umelej inteligencie v zdravotníctve, vzdelávaní či rozvoji ekonomiky, zdôraznil však potrebu spoločných pravidiel, ochrany ľudských práv a bezpečnosti detí. „Nemôžeme pomocou umelej inteligencie naprogramovať pravdu. Nemôžeme pomocou nej naprogramovať budúcnosť ľudstva,“ vyhlásil.

Osobitnú pozornosť venoval využívaniu umelej inteligencie vo vojenstve. Za svoju najväčšiu obavu označil autonómne smrtiace zbraňové systémy. „Nazvime ich pravým menom: zabijacké roboty,“ povedal. Podľa neho ide o stroje schopné vyberať a ničiť ciele bez ľudskej kontroly, čo označil za morálne neprijateľné a vyzval na ich zákaz medzinárodným právom.

Guterres zároveň navrhne vytvorenie Globálneho fondu pre umelú inteligenciu pod záštitou OSN, ktorý by pomáhal rozvojovým krajinám budovať technologické kapacity a znižovať digitálne rozdiely. Na záver varoval, že súčasná generácia môže byť poslednou, ktorá ešte dokáže nastaviť pravidlá spolužitia ľudí a inteligentných strojov. „Dvere sú stále otvorené. Nezostanú však otvorené dlho,“ upozornil.