Nová značka AI má odhaliť klamstvo. Neoznačenému obrazu však pravosť nedá

Od 2. augusta sa uplatňuje článok 50 európskeho nariadenia o umelej inteligencii (AI Actu). Pri určitom obsahu prikazuje oznámiť jeho umelý pôvod. Nebezpečné by však bolo vyložiť si pravidlo obrátene: ak značka chýba, obsah musí byť pravý.

Európska únia zavádza označenie pôvodu, nie pečať pravdy. Značka môže upozorniť, že sa nepozeráme na autentickú fotografiu. Nepovie však, či je tvrdenie pravdivé, či autor nemanipuluje kontextom ani či neoznačený obraz vznikol bez umelej inteligencie.

Jedna značka pre stroje, druhá pre ľudí

Pri „povinnom označovaní AI“ sa miešajú dve odlišné povinnosti.

Prvá leží na poskytovateľoch AI systémov. Syntetický text, obraz, zvuk či video majú byť označené v strojovo čitateľnom formáte, aby sa dal ich AI pôvod technicky zisťovať. Bežný čitateľ túto stopu nevidí. Článok 50 zároveň počíta s technickými obmedzeniami a s výnimkou pre štandardné pomocné úpravy, ktoré vstup ani jeho význam podstatne nemenia.

Druhá povinnosť leží na nasadzujúcom subjekte, ktorý AI obsah profesionálne používa. Pri deepfaku musí oznámiť, že obraz, zvuk alebo video boli vytvorené či upravené pomocou AI. Upozornenie má byť jasné a rozlíšiteľné najneskôr pri prvom zobrazení. Informácia ukrytá iba v súbore preto nestačí.

Neplatí teda, že každý AI obrázok musí mať nápis cez celú plochu. Technická stopa sa týka širšieho okruhu výstupov. Viditeľné upozornenie pri obraze, zvuku a videu sa viaže najmä na deepfake. Pri textoch však nariadenie nastavuje inú hranicu: kto mal posledné slovo a kto za publikovanie nesie zodpovednosť.

Pri texte musí mať posledné slovo človek

Ak AI vytvorí alebo upraví text určený na informovanie verejnosti o veci verejného záujmu, použitie AI sa má oznámiť. Označenie však netreba, ak text prešiel skutočným ľudským preskúmaním alebo redakčnou kontrolou a za jeho publikovanie nesie redakčnú zodpovednosť konkrétna osoba alebo redakcia.

Nejde o pravopisnú korektúru. Človek musí preskúmať podstatu textu, preveriť fakty a dôveryhodnosť zdrojov a mať právomoc obsah schváliť, zmeniť alebo odmietnuť. AI môže pomáhať pri podkladoch, osnove či formulovaní viet. Konečný úsudok a zodpovednosť však musia zostať na človeku.

Pri realistickom obraze, zvuku alebo videu samotná ľudská kontrola upozornenie nenahrádza. Rozhodujúce je, či obsah môže pôsobiť ako skutočný záznam.

Spoločný menovateľ je zodpovednosť: technický pôvod má označiť systém, deepfake musí priznať jeho profesionálny používateľ a pri verejnom texte môže označenie odpadnúť iba po skutočnej ľudskej kontrole.

Kódex je dobrovoľný. Kontrola nie

Článok 50 určuje povinný výsledok, nie jediný technický postup. Poskytovatelia a nasadzujúce subjekty môžu pristúpiť ku Kódexu postupov pre transparentnosť obsahu vytvoreného AI. Komisia a Rada pre umelú inteligenciu ho uznali za primeraný dobrovoľný rámec pre technické označovanie, deepfake a určité texty.

Podpis kódexu nie je konečným dôkazom súladu. Signatár sa však môže oprieť o spoločný európsky postup. Kto kódex nepodpíše, musí primeranosť vlastného riešenia preukázať inak. Posudzovať to majú orgány dohľadu nad trhom.

Práve tu sa ukazuje slovenský problém. Článok 70 vyžadoval, aby štát do 2. augusta 2025 určil orgány dohľadu a zverejnil jednotné kontaktné miesto. Na zozname Komisie dostupnom 3. augusta 2026 je však pri Slovensku stále iba pomlčka.

MIRRI síce pripravilo konkrétny návrh. Úrad digitálnej integrity sa mal stať všeobecným orgánom dohľadu aj jednotným kontaktným miestom, prijímať sťažnosti, vykonávať kontroly a ukladať pokuty. Materiál bol 13. marca 2026 zaevidovaný na Legislatívnej rade vlády a stále je vedený v stave „Zaradený“. Návrh počítal s účinnosťou od 15. júna, no tento termín sa nenaplnil.

Európske povinnosti sa napriek tomu od 2. augusta uplatňujú priamo. Slovenský návrh zákona ich neodkladá. Občan však stále nemá jasne označenú domácu adresu, ktorá má prijímať sťažnosti a koordinovať dohľad podľa AI Actu. Pravidlo teda beží skôr než kontrolný systém, ktorý ho mal na Slovensku zrozumiteľne vymáhať.

Kontrola pritom musí najprv rozhodnúť, či konkrétny obsah vôbec patrí pod povinné označenie. Pri obrazoch sa spor začína definíciou deepfaku.

Deepfake nie je iba falošný politik

Pri slove deepfake si väčšina ľudí predstaví video politika, ktorému AI vložila do úst vetu, ktorú nikdy nepovedal. Európska definícia je širšia.

Deepfake nemusí napodobňovať iba konkrétneho človeka. Môže zobrazovať aj predmet, miesto, subjekt alebo udalosť, ktoré existujú alebo by mohli vierohodne existovať, ak sa obsah človeku javí ako autentický alebo pravdivý.

Fotorealistický obraz vymysleného človeka preto môže niesť väčšie riziko zámeny za skutočnosť než zjavná karikatúra politika. Pri realistickej „fotografii“ môže čitateľ uveriť, že osoba existuje alebo že sa udalosť naozaj stala. Viditeľná značka tu zastaví prvý omyl: toto nie je autentická fotografia.

Značku nestačí iba niekam pripísať

Nariadenie neurčuje presnú veľkosť štítku. Vyžaduje však, aby upozornenie bolo jasné a rozlíšiteľné už pri prvom zobrazení. Označenie, ktoré v bežnom náhľade zanikne, túto úlohu neplní.

Na našom príklade sa drobný sivý nápis „Generované AI“ dal v plnej veľkosti ešte prečítať, v mobilnom náhľade však takmer zmizol. Bezpečnejšie je krátke označenie „AI ILUSTRÁCIA“ v kontrastnom, ale nerušivom štítku. Musí zostať čitateľné po zmenšení a má byť odsadené od okraja, aby ho orez pri zdieľaní neodstránil.

Pod obrázok potom patrí úplné vysvetlenie: „Ilustračný obrázok vytvorený pomocou umelej inteligencie. Nejde o autentickú fotografiu zobrazenej osoby ani udalosti.“ Krátky štítok rieši to, čo vidí človek. Technická stopa je samostatná vrstva a práve tá v našom teste nevydržala ani obyčajné uloženie.

V našom teste stopa zmizla pri prvom uložení

Na jednom pôvodnom AI obrázku sme overili päť bežných úprav pred internetovým publikovaním. Pôvodný PNG súbor obsahoval technický blok s čitateľnými údajmi o AI pôvode, OpenAI a použitom obrazovom modeli. Po obyčajnom otvorení a novom uložení do PNG tieto údaje zmizli.

Rovnako dopadlo zmenšenie, prevod do JPEG, desaťpercentný orez aj screenshot. Viditeľný nápis „AI ILUSTRÁCIA“, vložený priamo do obrazových bodov, všetkých päť úprav prežil a zostal čitateľný aj pri šírke 360 pixelov.

Test sa týkal jedného súboru a jedného konkrétneho postupu. Neoverovali sme kryptografickú platnosť vložených údajov a výsledok nemožno preniesť na každý editor, publikačný systém či sociálnu sieť. Ukázal však podstatnú vec: technická stopa sa môže stratiť aj bez úmyslu zakryť pôvod obrázka. Stačí bežný krok pri príprave publikačnej kópie.

Neoznačené neznamená pravé

Najnebezpečnejší omyl vznikne, ak si čitateľ zvykne čítať značku obrátene: označené je umelé, neoznačené skutočné. Neoznačený obraz však môže byť AI výstup, ktorého stopa sa stratila, bola odstránená alebo nebola vložená vôbec. Označený AI obraz naopak nemusí byť klamstvom. Môže ísť o poctivú ilustráciu reálnej témy.

Označené teda neznamená nepravdivé. Neoznačené neznamená pravé. Značka hovorí o vzniku alebo úprave obsahu, nie o pravdivosti jeho tvrdenia.

Článok 50 preto nie je zbytočný. Pri texte viaže výnimku na ľudskú kontrolu a zodpovednosť. Pri realistickom obraze môže zabrániť zámene ilustrácie za fotografiu. Kódex poskytuje cestu, ako súlad preukazovať. Bez funkčného dohľadu a bez kritického čitateľa však značka zostane iba jedným nástrojom ochrany, nie certifikátom skutočnosti.