AI už nebude bez pravidiel, nové nariadenie EÚ zasiahne aj bežné internetové obchody

Heureka Group, ktorá spolupracuje s viac ako 50-tisíc e-shopmi v strednej a východnej Európe, upozorňuje, že neinformovanosť patrí medzi najväčšie riziká. Podľa spoločnosti si mnohí prevádzkovatelia internetových obchodov stále myslia, že AI Act je určený len pre technologické firmy alebo veľké korporácie. „AI Act sa netýka len technologických firiem alebo veľkých korporácií. Ak prevádzkujete e-shop s chatbotom zákazníckej podpory alebo používate AI na tvorbu produktových popisov, regulácia sa na vás vzťahuje. Otázka nie je, či sa vás to týka, ale či ste na to pripravení,“ upozorňuje šéf produktu a vývoja Heureka Group Stanislav Sopko.

Jedným z najčastejších omylov je presvedčenie, že pri každom využívaní umelej inteligencie na spracúvanie osobných údajov je nevyhnutný súhlas zákazníka podľa pravidiel GDPR. V skutočnosti GDPR neupravuje samotné používanie umelej inteligencie, ale spracúvanie osobných údajov. Súhlas je pritom len jedným z možných právnych základov. V mnohých bežných situáciách internetových obchodov môže byť spracúvanie údajov založené na oprávnenom záujme alebo na plnení zmluvy.

Ďalším rozšíreným omylom je predstava, že obsah vytvorený umelou inteligenciou možno bez akýchkoľvek obmedzení voľne používať. Nové pravidlá však prinášajú viaceré povinnosti. Prevádzkovatelia budú musieť označovať deepfake obsah, poskytovatelia AI systémov zabezpečiť technické označenie výstupov, napríklad pomocou digitálnych vodoznakov, a samotné vygenerovanie loga či produktového obrázka ešte automaticky nezakladá autorské práva k výslednému dielu.

„Nejde o ojedinelé situácie, ale o každodenné scenáre pre väčšinu e-shopov. Problémy budú mať nie tie firmy, ktoré si boli vedomé rizík, napriek nim do toho išli a napríklad nakoniec aj urobili chybu. Budú to tie firmy, ktoré predpokladali, že je všetko v poriadku, bez toho, aby si to vôbec niekedy overili. Môže ich totiž čakať viacero nepríjemných prekvapení,“ upozorňuje advokátka spoločnosti eLegal Karolína Houžvičková.

Európske nariadenie rozdeľuje systémy umelej inteligencie do štyroch kategórií podľa miery rizika, a to na zakázané, vysoko rizikové, systémy s obmedzeným rizikom a systémy s minimálnym rizikom. Práve kategória obmedzeného rizika je pre väčšinu e-shopov najrelevantnejšia, keďže zahŕňa najčastejšie využívané AI nástroje v elektronickom obchode. Oveľa prísnejším pravidlám budú neskôr podliehať systémy označené ako vysoko rizikové, medzi ktoré patria napríklad niektoré riešenia využívané pri nábore zamestnancov alebo v oblasti ľudských zdrojov.

Heureka preto odporúča obchodníkom, aby si ešte pred augustovým termínom zmapovali, aké AI nástroje vo firme využívajú, či vystupujú ako poskytovatelia alebo iba prevádzkovatelia týchto systémov, overili, či niektorý z nich nespadá do kategórie vysokého rizika, skontrolovali, či je chatbot jasne označený ako umelá inteligencia, a posúdili, či nevytvárajú alebo nešíria obsah typu deepfake.

Podľa Stanislava Sopka pritom väčšina internetových obchodov zistí, že splnenie nových povinností nie je neprimerane náročné. Kľúčové je však urobiť si prehľad o tom, ako a kde umelú inteligenciu využívajú. „Väčšina e-shopov zistí, že ich situácia je zvládnuteľná, hneď ako ju reálne zmapujú. Riziko spočíva v tom, že predpokladajú, že nie je čo mapovať,“ uzatvára Sopko.