Európska únia získa od nedele nové právomoci nad výkonnou umelou inteligenciou

V roku 2024 prijala EÚ rozsiahly zákon o AI známy ako „AI Act“, ktorého pravidlá sa zavádzajú postupne. Zákon pristupuje k technológii na základe rizika – čím väčšie riziko pre práva alebo zdravie Európanov, tým väčšie povinnosti majú firmy chrániť jednotlivcov pred škodami. Zákon zakazuje AI používanú na prediktívne policajné systémy, rozpoznávanie emócií v školách alebo na pracoviskách a AI, ktorá manipuluje ľudským správaním.

Od nedele musia byť AI generované obsahy ako deepfaky označené a firmy musia zabezpečiť, aby systémy ako chatboti jasne uvádzali, že ide o AI. Existujúce AI systémy majú čas do 2. decembra na prispôsobenie sa novým pravidlám.

Od nedele budú mať európske regulačné orgány v rámci AI úradu právomoc vynucovať pravidlá pre najpokročilejšie AI modely. Úrad, ktorý je súčasťou Európskej komisie, bude tvoriť desiatky odborníkov z oblasti technológií, práva a ekonómie. AI úrad bude môcť testovať najpokročilejšie všeobecné AI modely, aby zabezpečil ich súlad so zákonom. Firmy budú musieť EÚ poskytnúť prístup k svojim modelom a v niektorých prípadoch môže EÚ požadovať prístup ešte pred uvedením modelu na trh. EÚ bude môcť tiež obmedziť nasadenie modelu, ak budú mať obavy, ktoré poskytovateľ nevyrieši.

Tieto právomoci prichádzajú v čase, keď EÚ mala problémy získať prístup k modelu Mythos od americkej firmy Anthropic, no nové pravidlá by mali zabrániť podobným situáciám. Národné orgány budú môcť vynucovať pravidlá pre menšie AI systémy. Ak EÚ zistí porušenie pravidiel, môže firmy prinútiť k náprave a pokutovať ich.

Najvyššie pokuty môžu dosiahnuť až 7 % celosvetového ročného obratu firmy alebo 35 miliónov eur, podľa toho, čo je vyššie. Pri iných porušeniach môžu byť pokuty do 3 % obratu alebo 15 miliónov eur. Firmy môžu byť pokutované aj za prekážanie alebo nespoluprácu pri vyšetrovaniach EÚ.

Ďalšie pravidlá podľa AI zákona budú vynútiteľné neskôr v tomto roku a v budúcnosti. Od decembra bude zakázané generovanie sexuálnych deepfakov AI, čo je reakcia na globálny rozruch okolo nelegálnych nahých obrázkov vytvorených chatbotom Grok od Elona Muska. EÚ tiež odkladá implementáciu niektorých pravidiel pre vysokorizikové AI systémy, ktoré môžu byť nebezpečné pre bezpečnosť, zdravie alebo základné práva občanov, aby firmy mali viac času na prípravu. Tieto pravidlá budú platiť pre samostatné vysokorizikové AI systémy od decembra 2027 a pre AI nástroje zabudované v iných produktoch od augusta 2028.