The Daily Mail: Šéf Microsoftu varoval, že sa Orwellovo proroctvo naplní už v roku 2024

Podľa Smithových slov sa môže spoločnosť totálnej kontroly a špehovania, ktorú opísal Orwell vo svojom diele, stať realitou už do roku 2024, ak nebudú prijaté opatrenia na zadržiavanie umelej inteligencie. Ako píše The Daily Mail s odvolaním sa na informáciu od anonymného čínskeho inžiniera, úrady ČĽR už používajú UI pre špehovanie obyvateľstva, a používajú oi. technológiu, ktorá rozoznáva emócie a zisťuje vinu. Podľa slov inžiniera je princíp činnosti tejto technológie porovnateľný s polygrafom.

„Používa sa, aby bolo potvrdené vopred urobené rozhodnutie úradov za nedostatku presvedčivých dôkazov. Počítač usúdi, že je človek nebezpečný – a je teda vinný z veľkého množstva zločinov, ku ktorým sa zatiaľ nepriznal,„ uvádza denník slová čínskeho inžiniera.

Ako píše The Daily Mail, bežné využitie UI spočíva v tom, aby bol algoritmus „naučený„ tomu či onomu aspektu pomocou súboru dát. Napríklad, je možné naučiť UI rozoznávať na fotografii určitý druh rastlín, ktorého zobrazenie bola uložené do jej pamäte. Môže sa ale používať aj pre menej ušľachtilé ciele, ako je potrebné zistenie viny občanov zadržaných políciou.

Podľa Smithových slov príklad Číny ukazuje, že sa svet približuje sci–fi: „Stále si spomínam na ponaučenie Georgea Orwella z knihy 1984. Jeho hlavný zmysel spočíva v tom, že vláda môže všetko vidieť a počuť. Nenaplnilo sa to v roku 1984, avšak ak nebudeme opatrní, môže sa to uskutočniť v roku 2024.„

Ako podotýka denník, nielen ČĽR využíva UI pre špehovanie ľudí. Napríklad, USA využívajú technológiou Google, ako je potrebné rozoznávanie obrazov, schopnosť rozlišovať ľudí a objekty. Tieto technológie boli použité na vojenské účely, po čom niekoľko pracovníkov z Google odišlo na znak protestu. V dôsledku toho spoločnosť od projektu odstúpila, ministerstvo obrany USA si však našlo v Kremíkovej doline nových partnerov. Podľa slov kongresmana Setha Moulton majú technologické spoločnosti podporovať vládu. Podotkol, že horúčkovité zbrojenie v oblasti UI môže priviesť ku konfliktu s ČĽR.

Podľa slov britského profesora Stuarta Russella je technológia UI pre ľudstvo rozcestím: „Ak všetko urobíme správne, môže nastať pre ľudstvo zlatý vek, zbavíme sa biedy a chorôb. Keď to ale urobíme zle, zriadime technológiami podporovanú globálnu diktatúru, a môžeme dokonca prenechať kontrolu nad naším svetom svojím vlastným technológiám „.