Nové pravidlá využívania umelej inteligencie ovplyvnia slovenské e-shopy

Tento nový právny rámec sa dotkne aj slovenských online obchodov. „Umelú inteligenciu využívajú aj slovenské online obchody. Môžu si ňou pomáhať napríklad pri komunikácii so zákazníkmi vo forme chatbota alebo pri tvorbe textov, obrázkov či videí,“ konštatuje Mária Auxtová, Country Lead pre Slovensko zo spoločnosti Shoptet, ktorá spravuje fungovanie viac ako 7 600 e-shopov.

AI Act konkrétne upravuje používanie chatbotov a voicebotov a zameriava sa na použitie deepfake obsahu, ktorý vytvára dojem reality. Táto regulácia sa netýka len e-shopov, ale aj médií a ďalších tvorcov internetového obsahu.

„Používanie AI by nemalo zákazníkov online obchodu zavádzať. Pri využití chatbota napríklad musí byť zákazník informovaný, že komunikuje s umelou inteligenciou. To isté platí pri AI obrázkoch a videách, ktoré pôsobia autenticky a môžu sa pomýliť s realitou. Tie podľa nových pravidiel majú byť jasne označené,“ vysvetľuje Auxtová.

Ak e-shop využíva napríklad AI modelku, ktorá na pohľad vyzerá ako skutočná žena, musí byť fotografia či video viditeľne označené. Označenie má byť jasné a zrejmé už pri prvom zverejnení obsahu. „Použiť možno rôzne formulácie, ale musí z nich byť jasné, že ide o výtvor umelej inteligencie. V rohu záberu môže byť napríklad oznámenie ‘Vytvorené pomocou AI’. Európska komisia predstavila aj tri druhy ikon na voľné použitie, ktorými možno tento obsah označiť. Treba však dbať na to, aby oznámenie zostalo viditeľné aj pri orezávaní,“ podotýka Auxtová.

„V budúcnosti by sa teda nemalo stať, že by e-shop predával napríklad výživové doplnky alebo kozmetiku pomocou vytvorenej AI modelky, pričom by zákazníci o tom neboli informovaní,“ dodáva Auxtová zo Shoptetu.

Pri textoch sú pravidlá na označovanie miernejšie. Povinnosť označovať sa vzťahuje predovšetkým na texty určené na informovanie verejnosti o témach verejného záujmu. V prípade e-shopov to môžu byť napríklad blogové články o zdraví alebo aktuálnych témach ako zdražovanie energií. Text vytvorený AI však netreba označiť, ak prešiel ľudskou redakčnou kontrolou.

AI Act sa sústreďuje aj na iné spôsoby využívania umelej inteligencie s cieľom sprehľadniť ich používanie, nie ich komplikovať. „E-shopy a ostatné firmy by si mali zosumarizovať, aké nástroje umelej inteligencie využívajú, a zistiť, ktoré povinnosti sa ich môžu týkať,“ uzatvára Mária Auxtová.