• Dohovor posúva hranicu toho, čo sa pri umelej inteligencii ešte považuje za prípustné a čo už nie
• Skutočný dopad nepríde jedným hlasovaním, ale cez AI Act, národný dohľad a domáce pravidlá
• Slovensko už pripravuje vlastný zákon o regulácii AI. Prináša ochranu občana, ale aj kontroly a pokuty

EP neschválil nový AI zákon

Európsky parlament neschválil nový zákon, ktorý by od zajtra ukladal ľuďom či firmám nové priame povinnosti. Vyslovil súhlas s pristúpením EÚ k rámcovému dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte. Ide o medzinárodný rámec, ktorý má nastaviť základné pravidlá pre to, aby sa umelá inteligencia nepoužívala spôsobom, ktorý ohrozuje práva ľudí, voľby, referendum, politickú súťaž, verejnú debatu, prístup k informáciám, férové rozhodovanie úradov a možnosť občana vytvoriť si názor bez manipulácie.

EÚ tak urobila ďalší krok k tomu, aby sa o hraniciach používania umelej inteligencie rozhodovalo viac z európskej a medzinárodnej úrovne.

Rada Európy sa na AI pozerá ako na nový nástroj moci. Ako na technológiu, ktorá vie vo veľkom triediť, odporúčať, profilovať, vyhodnocovať, generovať obsah a vstupovať do rozhodovania o ľuďoch. To, čo dnes vyzerá ako užitočná technologická pomoc, sa môže veľmi rýchlo zmeniť na systém, ktorý začne ľudí diskriminovať, vyraďovať alebo znevýhodňovať bez toho, aby bolo jasné prečo. O to horšie by bolo, ak by takéto nástroje používal štát. Zároveň už dnes je verejný priestor zaplavovaný obsahom, pri ktorom nik nevie, kto ho vytvoril a s akým cieľom. AI toto riziko ešte násobí.

Tým sa mení aj jazyk diskusie o AI. Už nepôjde len o inovácie, startupy a produktivitu. Čoraz viac pôjde o voľby, verejnú debatu, politickú reklamu, deepfaky, prístup k informáciám, rozhodovanie úradov a o to, či sa človek ešte vie brániť, keď o ňom začne rozhodovať algoritmus. A práve v takto nastavenej debate si inštitúcie najľahšie rozširujú svoje právomoci.

Za ochranu v digitálnom priestore sa platí

Dohovor stavia na transparentnosti, dohľade, zodpovednosti, ochrane súkromia, nediskriminácii a dostupnej náprave. Problém nie je v tom, že chce chrániť človeka pred škodlivým používaním AI. Problém je v tom, čo všetko sa dá pod takýto dobrý úmysel schovať.

Za každú ochranu v digitálnom priestore sa niečím platí. Cenou je viac dokumentácie, viac hodnotení rizík, viac označovania obsahu, viac hlásení, viac metodík, viac dohľadu a viac sankcií. A v krajnom prípade aj zákazy. Samotný rámec dohovoru počíta aj s tým, že pri niektorých použitiach AI môžu prísť moratóriá, zákazy alebo iné opatrenia, ak by zasahovali napríklad do volieb, politickej súťaže alebo férovej verejnej debaty.

Ak by regulácia smerovala len na štát, úrady a verejnú moc, asi by nikto nenamietal. Lenže bruselská skúsenosť hovorí niečo iné. Digitálna regulácia sa skôr či neskôr rozleje ďalej. Na platformy, firmy, médiá a napokon aj na občana. V tom možno čítať aj odpor suverenistov pri hlasovaní.

Kto bude určovať hranice AI

Kľúčová otázka pri nastavovaní pravidiel nad AI znie jednoducho: kto bude rozhodovať o tom, kde sa končí slobodné používanie technológie a kde sa už začína riziko pre práva ľudí, verejnú debatu či férové fungovanie štátu.

Podporovatelia dohovoru v tom majú jasno. Takéto hranice podľa nich musia určovať inštitúcie, ktoré majú chrániť práva, verejný záujem a pravidlá hry. Pre odporcov je však práve v tomto skryté hlavné riziko. Pojmy ako ochrana demokracie, integrita verejnej debaty či prevencia rizikového obsahu znejú vznešene, ale v praxi ich vždy niekto vykladá. A ten, kto ich vykladá, získava aj moc.

Tak vyzeralo aj hlasovanie v Európskom parlamente. Odpor sa sústredil najmä v suverenistických frakciách. Skupina Európa suverénnych národov dohovor odmietla. Spolu s nimi väčšinovo aj Patrioti. Takéto rámce vnímajú ako právne široké, výkladovo otvorené a potenciálne zneužiteľné na ďalšie rozširovanie dohľadu, regulačnej moci a tlaku na slobodu prejavu. Skúsenosť s textami, ktoré pracujú s vágne formulovanými pojmami, im velí spozornieť.

Európski konzervatívci a reformisti sa väčšinovo zdržali. Liberálno-progresívna väčšina pristúpenie EÚ k dohovoru podporila, hoci časť poslancov z iných pravicovejších skupín hlasovala proti.

Hlasovanie slovenských europoslancov veľké prekvapenie neprinieslo. Politická línia sa ukázala naplno. Konzervatívne a suverenistické krídlo bolo proti, progresívno-liberálne krídlo za. Ondruš sa zdržal.

Na Slovensku sa tvorí právny rámec ochrany občana, ale aj kontrol a sankcií

Pre Slovensko je rozhodujúce nie to, že EP dal súhlas, ale to, ako sa tento smer premietne do domácich pravidiel. A tam už nejde o teóriu. Slovensko už má v pripomienkovom konaní vlastný návrh zákona o umelej inteligencii. Počíta s tým, že hlavnú rolu dostane MIRRI. To nemá byť len kontaktný bod voči Bruselu, ale aj úrad, ktorý bude usmerňovať, koordinovať a kontrolovať, ako sa pravidlá pre AI plnia.

Pravidlá slúžia na ochranu občana tam, kde AI vstupuje medzi človeka a úrad alebo tam, kde rozhoduje o veciach, ktoré môžu zasiahnuť do života človeka. Ak úrad použije vysokorizikový systém AI pri individuálnom rozhodnutí, návrh ráta s tým, že má uviesť, v akej časti rozhodnutia a konania použil výstup AI. Človek by teda nemal zostať v nevedomosti, či o ňom rozhodoval úradník, alebo sa úrad oprel aj o algoritmus.

Pri vysokorizikových systémoch AI, ako sú napríklad systémy na rozpoznávanie tváre, výber uchádzačov do školy či zamestnania, posudzovanie prístupu k službám, policajné nástroje alebo systémy vstupujúce do úradného a súdneho rozhodovania, sa má sledovať napríklad aj to, či sú weby a aplikácie, ktoré taký systém používajú, prístupné aj pre ľudí so zdravotným postihnutím a či vôbec riadne fungujú. Takáto ochrana občana dáva zmysel. Ak sa štát alebo veľká inštitúcia opiera o AI pri citlivých rozhodnutiach, občan má právo vedieť, že systém funguje, je pod kontrolou a že existuje aj priestor na obranu. Pripomienky zároveň ukazujú, že návrh zavádza aj ďalšie povinnosti, napríklad poskytovať súčinnosť a informácie orgánom dohľadu či dopĺňať posúdenia vplyvu na základné práva a ochranu osobných údajov. Inými slovami, človek má vedieť, keď do jeho života vstupuje AI.

Ten istý návrh zároveň buduje aj rámec pre kontroly, predbežné opatrenia a pokuty. Pod dohľad sa nemá dostať len tvorca systému, ale široký okruh firiem, úradov a ďalších hráčov okolo AI. A úrad má mať možnosť kontrolovať plnenie povinností aj na mieste, zisťovať škodlivé následky nedostatkov a vydávať predbežné opatrenia ešte pred rozhodnutím o pokute.

Práve tu sa ukáže, či Slovensko nájde rozumnú mieru. Teda ochranu občana tam, kde AI vstupuje do školy, práce, služieb, úradného rozhodovania či verejného priestoru, ale bez toho, aby sa z ochrany stala brzda rozvoja AI na Slovensku.

Nejde len o AI. Ide o to, kto bude určovať hranice dovoleného

Pri Dohovore o umelej inteligencii v skutočnosti nejde len o umelú inteligenciu. V digitálnom priestore sa čoraz viac presadzuje logika, podľa ktorej ochrana práv, bezpečnosti, transparentnosti a demokracie zároveň ospravedlňuje silnejší dohľad, presnejšie evidovanie, viac povinného vykazovania a väčšiu moc úradov určovať, čo je ešte dovolené a čo už nie.

Slovensko zatiaľ naznačuje, že na prvé miesto chce postaviť občana, ktorý vo vzťahu s “digitálnym AI“ štátom ťahá za kratší koniec. Len si musí dať pozor, aby sa z potrebnej ochrany nestala prehnaná regulácia, ktorá odradí vývojárov a spomalí domáci rozvoj umelej inteligencie.