Dohoda bola uzavretá na politickej úrovni v piatok 8. decembra večer po rozhovoroch, ktoré zabrali celý deň a nasledovali po neúspešnom maratóne od stredy do štvrtka popoludnia. Celkovo celé presadenie trvalo viac ako 35 hodín.

K prelomu došlo uprostred agresívneho lobovania zo strany technologických spoločností všetkých veľkostí, ostrých varovaní zo strany občianskej spoločnosti a intenzívnej pozornosti médií, keďže legislatíva z Bruselu by mohla veľmi dobre ovplyvniť podobné regulačné snahy na celom svete.

„Historické! EÚ sa stáva vôbec prvým kontinentom, ktorý stanovil jasné pravidlá používania umelej inteligencie!” povedal Thierry Breton, európsky komisár pre vnútorný trh .

„Akt o umelej inteligencii je oveľa viac než len súbor pravidiel,“ povedal Brenton a dodal: „ Je to štartovacia rampa pre začínajúce podniky a výskumníkov z EÚ, aby sa stali lídrami v celosvetových pretekoch v oblasti umelej inteligencie.“

Rokovania boli tvrdým bojom medzi vládami a zákonodarcami o mnohých veľmi zložitých a technických otázkach.

Po tom, čo sa vo štvrtok podarilo uzavrieť predbežný kompromis o obmedzení základných modelov, ktoré poháňajú chatboty, ako je ChatGPT od OpenAI, sa piatkové rokovania výrazne zamerali na používanie biometrie v reálnom čase vrátane rozpoznávania tváre vo verejných priestoroch.

Jadrom diskusie bola otázka, či by štátne orgány mali mať možnosť nasadiť biometrické systémy poháňané umelou inteligenciou, ktoré dokážu identifikovať a kategorizovať ľudí na základe citlivých charakteristík, ako je pohlavie, rasa, etnický pôvod, náboženstvo a politická príslušnosť, ako aj systémy rozpoznávania emócií a prediktívnej politiky.

Poslanci Európskeho parlamentu vo svojom spoločnom mandáte uviedli: „Tieto postupy sú rušivé a diskriminačné, a preto by mali byť zakázané na celom území EÚ.“

Členské štáty však mali úplne iný názor: „Výnimky pre Orgány činné v trestnom konaní sú potrebné na vypátranie zločincov a zmarenie hrozieb proti národnej bezpečnosti.“

Francúzsko začiatkom tohto roka schválilo právne predpisy, ktoré umožnia používanie biometrického sledovania počas olympijských a paralympijských hier v Paríži v roku 2024, čo je prvá výnimka pre krajinu EÚ.

Španielsko, ktoré v súčasnosti vykonáva rotujúce predsedníctvo Rady, malo ťažkú úlohu zastupovať 27 členských štátov a zachovať jednotný postoj. Rokovania prerušila dlhšia prestávka, počas ktorej zákonodarcovia medzi sebou diskutovali o požiadavkách španielskeho predsedníctva. Medzitým sa na sociálnych sieťach objavili vedci a aktivisti, ktorí vyzvali poslancov Európskeho parlamentu, aby sa postavili proti výnimkám pre orgány činné v trestnom konaní.

Parlament nakoniec ustúpil a podpísal sériu prísnych podmienok, ktoré umožnia orgánom používať biometrické údaje v reálnom čase na vyhľadávanie obetí únosov, obchodovania s ľuďmi a sexuálneho vykorisťovania, na predchádzanie teroristickým hrozbám a na lokalizáciu osôb podozrivých zo spáchania závažných trestných činov, ako sú terorizmus, vraždy, znásilnenia a ozbrojené lúpeže.

Naopak, biometrická kategorizácia založená na citlivej charakteristike, sociálnom bodovaní, prediktívnom policajnom vyšetrovaní, využívaní zraniteľnosti a rozpoznávaní emócií na pracovisku a vo vzdelávacích inštitúciách bude zakázaná.

„Za zákaz používania biometrickej identifikácie sme tvrdo bojovali,“ povedal Brando Benifei, socialistický poslanec Európskeho parlamentu a spoluautor návrhu. „Bolo dôležité spojiť všetky tieto časti dohromady,“ dodal.

„Všetky tieto veci predstavujú veľmi silný režim, ktorý hovorí o tom, aký druh použitia umelej inteligencie nechceme v našej Únii a na našom trhu,“ povedal Dragoș Tudorache, druhý spoluautor.

„Prelom v oblasti umelej inteligencie by mohol ohroziť ľudstvo!“ varovali výskumníci Open AI pred odvolaním generálneho riaditeľa

Neustále sa vyvíjajúca technológia

AI Act (Zákon o umelej inteligencii), ktorý bol prvýkrát predstavený v apríli 2021, je prelomovým pokusom zabezpečiť, aby sa najradikálnejšia transformačná technológia 21. storočia vyvíjala s ohľadom na človeka a eticky zodpovedným spôsobom, ktorý zabráni jej najškodlivejším dôsledkom a obmedzí ich.

Zákon je v podstate nariadením o bezpečnosti výrobkov, ktoré zavádza odstupňovaný súbor pravidiel, ktoré musia spoločnosti dodržiavať pred tým, ako začnú ponúkať svoje služby spotrebiteľom kdekoľvek na jednotnom trhu európskeho bloku.

V zákone sa navrhuje pyramídová štruktúra, ktorá rozdeľuje produkty poháňané umelou inteligenciou do štyroch hlavných kategórií podľa potenciálneho rizika, ktoré predstavujú pre bezpečnosť občanov a ich základné práva: minimálne, obmedzené, vysoké a neprijateľné.

Tie, ktoré patria do kategórie minimálneho rizika, budú oslobodené od ďalších pravidiel, zatiaľ čo tie, ktoré sú označené ako obmedzené riziko, budú musieť dodržiavať základné povinnosti týkajúce sa transparentnosti.

Systémy považované za vysokorizikové budú podliehať prísnym pravidlám, ktoré sa budú uplatňovať pred ich vstupom na trh EÚ a počas celej doby ich životnosti vrátane podstatných aktualizácií. Do tejto skupiny budú patriť aplikácie, ktoré majú priamy a potenciálne život meniaci vplyv na súkromné osoby, ako napríklad softvér na triedenie životopisov pri pracovných pohovoroch, roboticky asistovaná chirurgia a programy na hodnotenie skúšok na univerzitách.

Vysoko rizikové výrobky s umelou inteligenciou budú musieť prejsť posúdením zhody, byť zaregistrované v databáze EÚ, podpísať vyhlásenie o zhode a niesť označenie CE – to všetko predtým, ako sa dostanú k spotrebiteľom. Keď budú dostupné, budú pod dohľadom vnútroštátnych orgánov, ktorým bude pomáhať osobitný úrad pre umelú inteligenciu v rámci Európskej komisie.
Systémy umelej inteligencie s neprijateľným rizikom pre spoločnosť vrátane sociálneho bodovania na kontrolu občanov a aplikácií, ktoré zneužívajú sociálno-ekonomické slabiny, budú na celom území EÚ úplne zakázané.

Podľa predbežnej dohody budú spoločnosti, ktoré porušia pravidlá, čeliť mnohomiliónovým pokutám vo výške až 35 miliónov eur alebo 7 % celosvetového obratu.

Hoci bol tento prístup založený na riziku dobre prijatý už v roku 2021, koncom roka 2022 sa dostal pod mimoriadny tlak, keď OpenAI spustila ChatGPT a rozpútala celosvetový rozruch okolo chatbotov. ChatGPT čoskoro nasledovali Bard od spoločnosti Google, Bing Chat od Microsoftu a najnovšie aj Q od Amazonu.

Chatboti sú poháňaní základnými modelmi, ktoré sú vyškolené pomocou obrovských množstiev údajov, ako sú text, obrázky, hudba, reč a kód, aby plnili široký a plynulý súbor úloh, ktoré sa môžu v priebehu času meniť, a nie aby mali konkrétny, nemenný účel.

Pôvodný návrh Komisie neobsahoval žiadne ustanovenia pre modely nadácií, čo prinútilo zákonodarcov pridať úplne nový článok s rozsiahlym zoznamom povinností, aby sa zabezpečilo, že tieto systémy budú rešpektovať základné práva, budú energeticky efektívne a budú spĺňať požiadavky transparentnosti tým, že budú zverejňovať, že ich obsah je vytvorený umelou inteligenciou.

Tento tlak Parlamentu sa stretol so skepticizmom členských štátov, ktoré majú tendenciu uprednostňovať mäkký prístup k tvorbe právnych predpisov.

Nemecko, Francúzsko a Taliansko, tri najväčšie ekonomiky európskeho bloku, prišli s protinávrhom, ktorý uprednostňoval povinnú samoreguláciu prostredníctvom kódexov správania pre modely nadácií. Tento krok vyvolal hnevlivú reakciu zákonodarcov a hrozilo, že sa legislatívny proces zmarí.

Hrozivá vyhliadka, že by sa tento prelomový zákon ocitol v situácii, keď sa pred voľbami do Európskeho parlamentu, ktoré sa uskutočnia budúci rok, dostane do omeškania, však bola motiváciou na preklenutie medzier a uzavretie predbežnej dohody, ktorá teraz predpokladá požiadavky na transparentnosť chatbotov, aby sa zabezpečilo, že používatelia budú vedieť, že komunikujú so systémom poháňaným umelou inteligenciou.

„ Zákon o umelej inteligencii je prvý na celom svete,“ povedala Ursula von der Leyenová, predsedníčka Európskej komisie.

„Ide o jedinečný právny rámec pre vývoj umelej inteligencie, ktorej môžete dôverovať. Je nevyhnutný pre bezpečnosť a základné práva ľudí a podnikov. Je to záväzok, ktorý sme prijali v našich politických usmerneniach – a splnili sme ho,“ dodala.