Čínska vláda sa snaží obmedziť riziká vyplývajúce z umelej inteligencie, ako digitálnych ľudí

Videá s AI digitálnymi ľuďmi sú bežné na čínskych sociálnych sieťach, kde ich často používajú na propagáciu produktov. Regulátor čínskeho kyberpriestoru tento mesiac vydal návrh pravidiel, s cieľom zabrániť škodám deťom, ohrozeniu spoločenskej stability alebo vytváraniu avatarov bez súhlasu pôvodných osôb.

Podľa štátnej agentúry Xinhua mal digitálny priemysel v Číne v roku 2024 hodnotu približne 600 miliónov dolárov, čo predstavuje 85 % medziročný rast. Marina Zhang z University of Technology Sydney uviedla, že čínska regulácia nových digitálnych technológií vždy nasledovala logiku najprv vyvinúť, potom regulovať a počas procesu zdokonaľovať. Navrhované pravidlá vyžadujú jasné označenie obsahu s digitálnymi ľuďmi a zakazujú používanie osobných údajov na vytváranie deepfake klonov bez súhlasu.

Zakladateľ spoločnosti Super Brain Zhang Zewei považuje nové zákony za nevyhnutné a pozitívne, pretože vyvažujú reguláciu a rast odvetvia. Spoločnosť sa špecializuje na tvorbu AI avatarov zosnulých pre trpiace rodiny. Nedávno sa na čínskych sociálnych sieťach rozšírilo video, kde staršia žena nevedomky komunikovala s hyperrealistickým avatarom svojho zosnulého syna, čo vyvolalo diskusie o etike generatívnej AI. Avatar napodobňoval rečové vzory a pohyby syna natoľko presne, že žena si myslela, že je to on na videohovore. Zhang označil tento avatar za „dobrovoľnú lož“, pričom spoločnosť vždy získava súhlas od rodinných príslušníkov zosnulých.

Pravidlá CAC, ktoré sú otvorené na verejnú diskusiu do začiatku mája, sú najnovším pokusom Číny vyvážiť technologické ambície s prevenciou rizík. Porušenia budú trestané pokutami 1 460 až 29 300 dolárov. CAC už predtým zasiahla proti AI deepfake videám, ktoré napodobňovali verejné osobnosti v e-commerce livestreamoch, čo podľa nej vážne poškodilo online ekosystém.