Chat Control: Brusel chystá orwellovský nástroj, Slovensko mlčí

Čo sa chystá

Na jeseň má Európsky parlament hlasovať o návrhu smernice, ktorá sa stala prioritou dánskeho predsedníctva Rady EÚ. Ide o legislatívu známejšiu pod menom Chat Control. Európska komisia ju predkladá ako prostriedok na boj proti sexuálnemu zneužívaniu detí v digitálnom priestore. Na prvý pohľad téma, proti ktorej sa nedá namietať. Kto by už nechcel chrániť deti?

No za touto ušľachtilou zámienkou sa skrýva návrh, ktorý znamená bezprecedentný zásah do základného práva na súkromie. Občan EÚ by sa mohol ocitnúť v situácii, že každá jeho správa, e-mail či fotografia budú podrobené automatickému skenovaniu, či neobsahujú niečo podozrivé.

Prečo návrh vznikol

Komisia argumentuje prudkým nárastom materiálov zobrazujúcich sexuálne zneužívanie detí (CSAM) na internete a novými fenoménmi, ako sú grooming či deepfake.

V roku 2021 americké NCMEC (National Center for Missing and Exploited Children) prijalo až 29 miliónov  hlásení globálne, z toho 99,7 % sa týkalo detských sexuálnych materiálov; v roku 2022 už 32 miliónov hlásení. OECD tiež uvádza dramatický nárast: z 21,7 milióna hlásení v roku 2020 na viac ako 31,8 milióna v roku 2022

Ďalším dôvodom bola závislosť Európy od amerického centra NCMEC (National Center for Missing and Exploited Children). To prijíma milióny hlásení ročne od veľkých platforiem ako Google či Meta a posiela ich polícii. Až 95 % všetkých hlásení o CSAM pochádza práve odtiaľ.

Na prvý pohľad je preto pochopiteľné, že Európska únia chcela mať vlastný ekvivalent – EUCSA (European Centre to Prevent and Combat Child Sexual Abuse). Logika je jasná: namiesto toho, aby naše dáta putovali cez oceán, mali by sme ich spracúvať doma, v Európe.

EUCSA – orwellovský orgán v jadre návrhu

Kameňom úrazu nie je samotný cieľ chrániť deti, ale spôsob, akým to chce Brusel dosiahnuť. Európska komisia od začiatku navrhla zriadenie nového orgánu s názvom EUCSA. Tento orgán má byť viac než len technické centrum: má fungovať ako centrálny filter a kontrolór digitálnej komunikácie.

EUCSA má mať právomoc vydávať detekčné príkazy, ktoré prinútia poskytovateľov plošne skenovať komunikáciu používateľov, certifikovať algoritmy a technológie, čím v praxi určí, aké nástroje musia firmy povinne nasadiť, spravovať databázy nielen známeho nelegálneho materiálu, ale aj indikátorov pre grooming či nové „realistické“ zobrazenia vytvorené napríklad umelou inteligenciou, rozhodovať, čo je a čo nie je hlásený obsah, ktorý sa dostane k polícii.

Inými slovami, EUCSA by sa stalo centrálnym arbitrom digitálnej komunikácie. Nie pasívnym príjemcom hlásení, ale aktívnym regulátorom, ktorý môže zasahovať do toho, čo občania píšu, posielajú a zdieľajú.

Takýto model je ľahko zneužiteľný – a raz vybudovaná infraštruktúra môže byť rozšírená aj na iné témy než len detské zneužívanie: od „extrémizmu“ až po „dezinformácie“.

NCMEC vs. EUCSA – zásadný rozdiel

Tu sa však končí zdravý rozum a začína problém.

– NCMEC (USA): je „poštový úrad“. Prijíma hlásenia od platforiem, triedi ich a posúva polícii. Nemá prístup k súkromnej komunikácii občanov, nikoho nenúti používať konkrétne algoritmy a nešmíruje.

– EUCSA (EÚ, podľa návrhu): má ísť oveľa ďalej. Nielen prijímať hlásenia, ale aj vydávať detekčné príkazy, ktoré prinútia poskytovateľov plošne skenovať komunikáciu. Má určovať technológie, certifikovať algoritmy a mať monopol na to, čo je a čo nie je ilegálny obsah.

Americké NCMEC možno nebolo dokonalé – bolo preťažené a riešilo len známe prípady zneužívania. No nikdy sa nepokúsilo „šmírovať“ každého občana. Až Brusel vymyslel, že európske centrum musí byť „lepšie“ – teda také, ktoré bude zasahovať priamo do súkromnej komunikácie všetkých ľudí.

Slovenský postoj: mlčanie namiesto obhajoby práv

A kde je v tom všetkom Slovensko?

Naša krajina mala príležitosť povedať jasne: „Áno, chceme európsky ekvivalent NCMEC, aby sme neboli závislí od USA. Ale nie cenzorský orgán s právomocou špehovať súkromné správy.“

Lenže v oficiálnych stanoviskách Slovenskej republiky z rokov 2022 aj 2024 nič také nenájdeme. Slovensko návrh podporilo, pripomienky smerovalo k technickým detailom – k definíciám, sankciám či procedúram. Na zásadný problém – prečo z „európskeho NCMEC“ robíme orwellovského kontrolóra komunikácie – nepoukázalo.

Zásah do základných práv

Proti plošnému skenovaniu sa postavili dokonca aj inštitúcie EÚ, ktoré bežne postupujú veľmi opatrne. Európsky dozorný orgán pre ochranu údajov (EDPS) aj Európsky výbor pre ochranu údajov (EDPB) upozornili, že tzv. klient-side scanning je nezlučiteľný so základným právom na súkromie a dôvernosť komunikácie.

Brusel pritom tvrdí, že plošné skenovanie príde až ako „posledná možnosť“ – po tom, čo poskytovateľ najprv vypracuje posúdenie rizika a ak zlyhajú iné opatrenia. Lenže to je právny trik. Ak je niečo v rozpore so základným právom, nezachráni to ani fakt, že sa k tomu dostaneme až v treťom kroku. Detekčný príkaz je sám osebe neprípustný – žiadna procedúra ho nemôže urobiť legitímnym.

Inštitúcie upozornili aj na to, že navrhované opatrenia ohrozujú dôveru v end-to-end šifrovanie, ktoré je základom dôvernosti komunikácie, slobody prejavu a digitálnej bezpečnosti ako tak ej

Technické riziko je tiež obrovské. Algoritmy budú robiť chyby, vygenerujú tisíce falošných poplachov, ktoré zahltia políciu a zničia život nevinným ľuďom.

Varovania pre občana

Pozornosť verejnosti na Slovensku je sústredená na boj o konsolidáciu, o zmenu ústavy. O tom, čo pripravuje Brusel „nezávislé“ médiá svorne mlčia. Ak návrh prejde, súkromná komunikácia prestane byť skutočne súkromná. Každá správa na Messengeri, WhatsAppe či e-mail môže byť ešte pred odoslaním otvorená algoritmu, ktorý ju porovná s databázami a modelmi.

Riziko omylov je pritom obrovské. Nevinné fotografie detí v rodinnom albume môžu byť nesprávne vyhodnotené ako podozrivý materiál. Bežné žarty alebo ironické poznámky môže stroj označiť za grooming. Výsledok? Hlásenie, ktoré sa automaticky dostane na políciu – a občan, ktorý sa bude musieť obhajovať, hoci nič nespáchal.

Takáto skúsenosť by zničila dôveru v digitálnu komunikáciu. Človek si dvakrát rozmyslí, čo pošle cez Messenger alebo e-mail. Súkromná zóna, kde môže slobodne hovoriť, prestane existovať.

Najväčším rizikom však je precedens. Ak dnes vytvoríme infraštruktúru, ktorá dokáže plošne skenovať správy, zajtra ju možno niekto použije na iný účel. Najprv „nenávistné prejavy“, potom „dezinformácie“. A z nástroja na boj proti pedofilom sa môže stať orwellovským ministerstvo pravdy, ktoré kontroluje každé slovo občana.

Za bezpečnosť detí nesmieme zaplatiť slobodou

Ochrana detí je absolútne legitímny cieľ. Ale nesmie sa stať zámienkou na zničenie súkromia všetkých občanov. Slovensko malo v Bruseli trvať na tom, aby EUCSA bolo len európskym ekvivalentom NCMEC – nič viac, nič menej. Namiesto toho mlčí. A mlčanie v tejto chvíli znamená súhlas.

Ak smernica prejde v navrhnutej podobe, občan Európskej únie sa ocitne v digitálnom svete, kde každá správa môže byť skontrolovaná. V snahe ochrániť deti riskujeme, že prídeme o slobodu všetkých. A to je cena, ktorú si žiadna demokracia nemôže dovoliť zaplatiť.