Pozornosť púta z titulu, že cieľom nariadenia je vytvoriť systém na odhaľovanie a nahlasovanie materiálov týkajúcich sa sexuálneho zneužívania detí online (CSAM). A na verejnosť presiakli informácie, že nariadenie ukladá povinnosť skenovať súkromnú digitálnu komunikáciu na platformách, ako je WhatsApp alebo Gmail. To je dobrý dôvod, aby sme Nariadenie analyzovali.

Dôvodová správa

Nariadenie na pôde EK adresuje požiadavku výboru OSN pre práva dieťaťa, ktorý v roku 2021 zdôraznil, že ochrana práv detí pred sexuálnym obťažovaním musí prebiehať aj v digitálnom priestore.

V dôvodovej správe k Nariadeniu sa uvádza, že európske inštitúcie prijali vyhlásenie o digitálnych právach a zásadách v digitálnom desaťročí, ktoré zahŕňa aj záväzok chrániť všetky deti pred nezákonným obsahom, vykorisťovaním, manipuláciou a zneužívaním na internete a zabrániť používaniu digitálneho priestoru na páchanie trestných činov alebo na navádzanie k trestným činom. Zároveň konštatuje, že niektorí poskytovatelia už dobrovoľne používajú technológie na zisťovanie, oznamovanie, ale že sa to deje nekoordinovane, pričom prijímané opatrenia sa rôznia. Cieľom Nariadenia je zjednotenie opatrení na jednotnom digitálnom trhu únie pre zisťovanie, oznamovanie a odstraňovanie sexuálneho zneužívania detí online, harmonizovať právny rámec na predchádzanie sexuálnemu zneužívaniu detí online a boj proti nemu.

Nariadenie predpokladá zriadenie Európskeho centra pre prevenciu sexuálneho zneužívania a boja proti nemu (ďalej len „centrum EÚ“), ktoré bude uľahčovať a podporovať vykonávanie tohto nariadenia. Centrum EÚ bude vytvárať, udržiavať a prevádzkovať databázy ukazovateľov sexuálneho zneužívania detí online, ktoré budú musieť poskytovatelia využívať, aby si splnili povinnosti týkajúce sa zisťovania.

Nariadenie ukladá poskytovateľom povinnosť zisťovať sexuálne zneužívanie detí online, oznamovať ho a odstraňovať materiál obsahujúci sexuálne zneužívanie detí.

Právnym základom Nariadenia, ktorého cieľom je harmonizovať požiadavky uložené poskytovateľom príslušných online služieb na digitálnom jednotnom trhu je článok 114 Zmluvy o fungovaní Európskej únie (ZFEÚ), ktorý stanovuje vytvorenie opatrení na zabezpečenie fungovania vnútorného trhu. Nariadenie má zabrániť tomu, aby si jednotlivé členské štáty nevytvorili vlastné pravidlá.

Prihlásením sa k jednotnému digitálnemu trhu únie sme sa vzdali možnosti regulovať si pravidlá v online priestore, vrátane opatrení na predchádzanie sexuálnemu zneužívaniu detí online a boj proti nemu.

Povinnosti poskytovateľov

Nariadenie ukladá poskytovateľom služieb, kde existuje riziko zneužívania na účely šírenia materiálu obsahujúceho sexuálne zneužívanie detí alebo kontaktovania detí (známe ako „grooming“). Povinnosti sú rozdelené do niekoľkých kategórií a týkajú sa: posudzovania a zmierňovania rizika, zisťovania, oznamovania, odstraňovania a blokovania.

Príkaz na zisťovanie

Z pomedzi týchto povinností najväčšie obavy vzbudzujú povinnosti spojené so zisťovaním. Nakoľko Nariadenie je možné zneužiť na sledovanie súkromnej komunikácie všetkých občanov EÚ. Na základe nariadenia zisťovanie je možné vykonať len na základe súdneho príkazu, ktorý vydá súd alebo iný správny orgán na základe žiadosti Koordinačného orgánu v tej ktorej krajine.

Príslušný súdny orgán alebo nezávislý správny orgán uvádza v príkaze na zistenie lehotu, počas ktorej sa uplatňuje, vrátane dátumu začatia a dátumu ukončenia. Obdobie uplatňovania príkazov na zistenie súvisiacich so šírením známeho alebo nového materiálu obsahujúceho sexuálne zneužívanie detí nesmie presiahnuť 24 mesiacov a obdobie uplatňovania príkazov na zistenie kontaktovania detí nesmie presiahnuť 12 mesiacov.

Zmierňovanie rizika

Obavy vyvolávajú aj opatrenia na zmiernenie rizika. Najmä opatrenie na overenie veku a posúdenie veku s cieľom spoľahlivo identifikovať detských používateľov v rámci svojich služieb. Nakoľko bez poskytnutia digitálnej identity nebudú môcť používatelia služby používať.

Právo na účinný prostriedok nápravy

Poskytovateľ sa môže brániť voči príkazu na zisťovanie súdnou cestou. Rovnako používateľ, ktorého sa týkajú prijaté opatrenia, môže požadovať nápravu na príslušnom súde alebo správnom orgáne, ktorý vydal príkaz na zistenie.

Technológie a záruky

Ďalšou kontroverznou časťou Nariadenia je článok, ktorý definuje spôsob, akým musia poskytovatelia príkaz na zistenie vykonať. Nariadenie uvádza, že ho vykonajú nainštalovaním a prevádzkou technológií na zisťovanie šírenia známeho alebo nového materiálu obsahujúceho sexuálne zneužívanie detí, prípadne kontaktovania detí, pričom použijú zodpovedajúce ukazovatele poskytnuté centrom EÚ. V Nariadení sa doslova uvádza, že použiť je možné len také technológie, ktoré nie sú schopné získať žiadne iné informácie z príslušnej komunikácie, než sú informácie, ktoré sú nevyhnutne potrebné na zisťovanie schém poukazujúcich na šírenie známeho alebo nového materiálu obsahujúceho sexuálne zneužívanie detí alebo prípadne kontaktovanie detí. Ďalej to musia byť technológie, ktoré NAJMENEJ narúšajú právo používateľov na súkromný a rodinný život vrátane dôvernosti komunikácie a na ochranu osobných údajov.

Poskytovateľ

• je povinný prijať všetky potrebné opatrenia na zabezpečenie toho, aby sa technológie a ukazovatele, ako aj spracúvanie osobných údajov a iných údajov v súvislosti s nimi používali výlučne na účely zisťovania
• zavádza účinné vnútorné postupy na predchádzanie akémukoľvek zneužitiu technológií, ukazovateľov a osobných údajov a iných údajov
• podľa potreby zabezpečuje pravidelný ľudský dohľad na zaistenie spoľahlivosti zisťovania
• zriaďuje a prevádzkuje prístupný a používateľsky ústretový mechanizmus na podávanie sťažnosti

Poskytovateľ informuje používateľov jasným, zreteľným a zrozumiteľným spôsobom o tom:

• že prevádzkuje technológie na zisťovanie sexuálneho zneužívania detí online s cieľom vykonať príkaz na zistenie, o spôsoboch, akými tieto technológie prevádzkuje, a o vplyve na dôvernosť komunikácie používateľov
• že používatelia majú právo na súdny prostriedok nápravy
• právo podávať sťažnosti poskytovateľovi prostredníctvom mechanizmu

Technologicky ide v čase príkazu na zistenie o aplikáciu nástrojov umelej inteligencie na skenovanie textov, obrázkov a videí. Konkrétna implementácia nie je súčasťou návrhu, vyberie si ju komunikačná platforma. Budú sa hľadať zobrazenia sexuálne explicitného obsahu a aj správy deťom na takéto citlivé témy.

Uchovávanie informácií

Obavy môžu vzbudzovať aj povinnosti poskytovateľov uchovávať údaje spojené so zisťovaním. Toto je časovo obmedzené len na obdobie, ktoré je nevyhnutné na príslušný účel, a v žiadnom prípade nie dlhšie ako 12 mesiacov od dátumu oznámenia alebo odstránenia alebo znemožnenia prístupu, podľa toho, čo nastane skôr.

V ďalších častiach sa Nariadenie venuje povinnosti zriadiť Koordinačné centrum v každom členskom štáte a ďalej definuje Európske Centrum pre prevenciu sexuálneho zneužívania detí a boj proti nemu.

Vylučovanie sledovaného obsahu

Tak ako postupne prichádzali námietky z členských štátov a organizácii na ochranu práva na súkromie, boli z návrhu postupne vylúčená audio komunikácia (28 mája 2024). Podľa ostatných informácií zverejnených na portáli Euroactiv.com, najnovšia verzia Nariadenia vylučuje textovú komunikáciu a objasňuje, že príkazy na detekciu sa vzťahujú len na vizuálny obsah, od obrázkov a video súčastí až po GIFy a nálepky. V dokumente sa však uvádza, že obťažovanie detí by sa malo stále identifikovať čo najviac prostredníctvom vizuálnych zložiek.

Skenovaniu by sa nemala vyhnúť ani šifrovaná komunikácia medzi koncovými používateľmi. Takže sa nevyhne ani obľúbeným platformám ako Signal a WhatApp. Používatelia však musia s takýmto zisťovaním súhlasiť v rámci podmienok poskytovateľov, a to konkrétne pre povolenie tejto funkcie v službe. Tí, ktorí s tým nesúhlasia, môžu naďalej používať časti služby, ktoré nezahŕňajú odosielanie vizuálneho obsahu a URL.

Slovensko iniciatívu nenamietalo

Zatiaľ s iniciatívou nesúhlasí Nemecko, Luxembursko, Holandsko, Rakúsko a Poľsko. Na zablokovanie návrhu to nestačí. Taliansko, Fínsko, Česká republika, Švédsko, Slovinsko, Estónsko, Grécko a Portugalsko svoj súhlas zvažujú. Z uvedeného vyplýva, že Slovensko bez toho, aby k návrhu prebehla akákoľvek verejná diskusia s navrhovaným Nariadením súhlasí.

Zastavme kontrolu chatu

Na rozdiel od slovenských kompetentných nájdu sa EÚ iniciatívy, ktorým záleží na zachovaní nášho súkromia, ktoré by padlo na oltár tejto bohumilej aktivity na ochranu našich detí. Jednou z nich je https://stopchatcontrol.eu/.

Iniciatíva vyzýva občanov EÚ, aby vo veci kontaktovali svojich europoslancov. Rovnako umožňuje podpísať petíciu za stavenie tejto iniciatívy. Tu sú zhrnuté výhrady voči Nariadeniu:

Najväčšou výhradou, ktorú voči tejto iniciatíve majú je, že v čase aplikácie príkazu na zisťovanie technológia nedokáže rozlíšiť rodinné fotografie zo súkromnej komunikácie od obsahu určeného na sexuálne obťažovanie detí. A preto aj tieto fotografie budú predmetom zberu v Centre.

Kontrola chatu nie je v súlade s Chartou základných Rights. Digitálne listové tajomstvo sa tak dostáva do digitálneho koša. Kontrola chatu bude čítať a kontrolovať všetky správy, e-maily, fotografie a videá na WhatsApp v reálnom čase.

Ďalšou je, že aj také platformy ako WhatsApp a SnapChat budú nútené kontrolovať vek používateľov. Takže už žiadne anonymné zoznamovanie.

U ktorej sociálnej siete neexistuje riziko, že v nej môže byť maloletý oslovený nejakým dospelým? Žiadna. Takže Nariadením skončí virtuálna existencia maloletých na sociálnych sieťach vôbec.

Kontrola chatu ničí šifrovaciu infraštruktúru. Ani šifrovaná komunikácia nie je pred Nariadením imúnna. To znamená úplné monitorovanie všetkých správ vrátane novinárov, právnikov a politických oponentov v exile.

Namietajú, že ochrana detí sa dá zlepšiť aj bez kontroly digitálnej komunikácie. Namiesto toho je potrebné investovať do vybavenia a školenia súdnictva, polície, Europolu a do spolupráce medzi orgánmi. Ďalej, že členské štáty EÚ už majú dostatočné právomoci na monitorovanie podozrivých osôb v jednotlivých prípadoch a na zabezpečenie dôkazov. A že zavádzaním všeobecného dohľadu nad našou digitálnou komunikáciou sa mení EÚ na Čínu. Kde sú európske hodnoty?

Interpelujte svojho europoslanca

Slovensko si zvolilo pred pár dňami 15 zástupcov v Európskom Parlamente. Každý občan SR (volič) môže vo veci kontaktovať svojho europoslanca a pýtať sa ho na jeho postoj k Nariadeniu a ako chce pri jeho aplikácii ochrániť právo každého občana na súkromie. Môžete na to využiť aj túto platformu:  https://stopchatcontrol.eu/#contact-mep

Prečítajte si tiež

• Dieťa ako zbraň pri rozvode: pribúdajú krivé obvinenia matiek zo sexuálneho zneužívania detí
• Aplikácie musia pred zverejnením skontrolovať, či obrázky neobsahujú sexuálne zneužívanie detí