ChatGPT vstupuje pod najprísnejší režim DSA. Ako zistíte, čo vám pred voľbami neukázal?

Európska komisia 31. augusta zaradila ChatGPT medzi veľmi veľké internetové vyhľadávače. OpenAI tak musí v priebehu štyroch mesiacov splniť dodatočné povinnosti Aktu o digitálnych službách, DSA. Neznamená to, že Brusel dostal právo písať odpovede za ChatGPT. Znamená to však silnejší dohľad nad rizikami služby a nad opatreniami, ktorými ich OpenAI zmierňuje.

To je podstatné preto, že ChatGPT už dnes vyberá, ktoré zdroje používateľovi ukáže. Používateľ môže skontrolovať to, čo dostal, nie celý výber, ktorý odpovedi predchádzal. Preto by pri politicky sporných témach jedna AI nemala byť jedinou bránou k informáciám.

Vidíte citácie. Nevidíte výber pred nimi

ChatGPT vie odpoveď podložiť piatimi či desiatimi odkazmi. To je užitočné, ale nie je to úplná stopa toho, ako zdroje vybral.

Používateľ pritom nemusí webové vyhľadávanie vedome zapínať. ChatGPT ho môže spustiť automaticky, keď odpovedi prospejú aktuálne informácie. Používateľ môže vidieť, že systém vyhľadáva na webe. Nevidí však úplný zoznam ďalších výsledkov, ktoré sa do konečného výberu nedostali, ani dôvody ich nezvolenia.

OpenAI vysvetľuje, že výsledky vyberajú jazykové modely a automatizované systémy podľa zámeru používateľa, relevancie a aktuálnosti. Do výsledku vstupujú aj pravidlá služby a bezpečnostné štandardy. Niektoré weby sa preto nemusia zobraziť.

Päť citácií teda ukazuje, z čoho ChatGPT čerpal. Neukazuje, čo všetko zostalo mimo odpovede. A práve na tento už existujúci výber sa po novom naviaže DSA.

Čo sa od januára skutočne zmení

OpenAI pri ChatGPT Search uvádza 159,1 milióna priemerných mesačných aktívnych príjemcov v EÚ za šesťmesačné obdobie končiace sa 31. marca 2026. Po označení za veľmi veľký internetový vyhľadávač bude musieť pri službe hodnotiť a zmierňovať systémové riziká. Patria medzi ne nezákonný obsah, negatívne účinky na základné práva, verejnú bezpečnosť aj volebné procesy.

Medzi opatrenia môžu patriť aj zmeny pravidiel služby, moderovania a algoritmických systémov. DSA zároveň vyžaduje prihliadať na základné práva vrátane slobody prejavu.

Nemáme teda dôkaz, že Komisia bude určovať politický názor odpovede. Má však silnejší dohľad nad tým, ako OpenAI riziká vyhodnocuje a akými opatreniami ich zmierňuje. Najcitlivejšie sa táto hranica ukáže pred voľbami.

Pred voľbami sa pravidlá sprísnia. Všimne si to používateľ?

Komisia vo volebných usmerneniach odporúča pri generatívnej AI opierať volebné informácie čo najviac o spoľahlivé zdroje, testovať vecnú správnosť odpovedí a používať klasifikátory, moderovanie a ďalšie filtre proti manipulácii a dezinformáciám.

Ako môže predvolebná príprava platformy vyzerať v praxi, sme na Hlavných správach ukázali na interných dokumentoch TikToku zverejnených americkým kongresovým výborom. Pred slovenskými parlamentnými voľbami v roku 2023 TikTok mapoval rizikové témy, politických aktérov a moderátorské priority. Neznamená to, že ChatGPT bude postupovať rovnako. Ukazuje to však, že „zmierňovanie volebných rizík“ sa môže pretaviť do konkrétnych rozhodnutí o tom, čomu platforma venuje zvýšenú pozornosť.

OpenAI už samo uvádza, že chce používateľov smerovať k spoľahlivým volebným informáciám, testovať politickú zaujatosť modelov a vyhýbať sa správaniu, ktoré by zatajením relevantných faktov alebo pohľadov používateľa politicky posúvalo.

V DSA ani vo volebných usmerneniach sme nenašli povinnosť označiť každú odpoveď upozornením, že sú aktívne osobitné volebné opatrenia. Usmernenia odporúčajú určiť obdobie týchto opatrení v obchodných podmienkach a verejne vysvetľovať niektoré vnútorné procesy. To však používateľovi pri konkrétnej odpovedi nepovie, čo sa oproti bežnej prevádzke zmenilo.

Otvorená zostáva aj otázka zdrojov. Pri výsledku volieb je prirodzeným zdrojom volebný orgán. Pri politickom spore je však podstatné, podľa čoho systém posudzuje jednotlivé médiá a či sa vydavateľ dozvie, že jeho zdroj dostal nižšiu váhu alebo sa do výberu nedostal.

Na to sa Hlavné správy opýtali. AI-asistovaná podpora OpenAI uviedla, že nemôže poskytnúť stanovisko pre médiá ani konkrétne určenie oprávnenosti či rankingu hlavnespravy.sk. Vecnú odpoveď na postavenie Hlavných správ sme do uzávierky nedostali. Prípadné stanovisko tlačového oddelenia spracujeme neskôr.

Do širšieho rámca patrí aj Rapid Response System Kódexu proti dezinformáciám. Neplatformoví signatári v ňom môžu upozorniť platformy na časovo citlivý obsah, účty alebo trendy, ktoré považujú za hrozbu pre integritu volieb. O prípadnom zásahu rozhoduje platforma. Aj tu zostáva otázka, čo z procesu môže verejnosť spätne skontrolovať.

Audítor môže vidieť viac než používateľ

Veľmi veľký vyhľadávač musí najmenej raz ročne absolvovať nezávislý audit. Pravidlá auditu počítajú s prístupom k údajom vrátane osobných údajov a k relevantným IT a algoritmickým systémom vrátane testovacích prostredí.

DSA za podmienok článku 40 umožňuje prístup k dátam aj prevereným výskumným pracovníkom skúmajúcim systémové riziká. Zostáva preto otvorená konkrétna otázka: môžu sa do takéhoto prístupu dostať aj dáta z ChatGPT pracovného priestoru používateľa? A ak áno, za akých podmienok?

V samotnom DSA sme nenašli všeobecnú povinnosť oznámiť každému používateľovi každý takýto prístup. To však neznamená, že používateľ nemá ďalšie práva podľa pravidiel ochrany osobných údajov. Aj túto otázku sme poslali OpenAI.

Komerčný konflikt predpis pomenoval. A politický?

Článok 40 pri preverených výskumných pracovníkoch výslovne požaduje nezávislosť od obchodných záujmov a zverejnenie financovania výskumu. Rovnako explicitnú požiadavku politickej neutrality sme medzi týmito podmienkami nenašli.

To nie je dôkaz, že DSA povoľuje politicky motivovaný výskum. Prístup musí byť potrebný a primeraný a výskumník musí spĺňať požiadavky na bezpečnosť, dôvernosť a ochranu osobných údajov. Otázka je užšia: ak sa výskum môže týkať občianskej diskusie a volieb, prečo je obchodný konflikt záujmov pomenovaný výslovne, ale politický nie?

Stane sa z ChatGPT volebný propagandista?

Z dnešných dokumentov nemožno tvrdiť, že sa po januári 2027 stane z ChatGPT nástroj propagandy Európskej komisie. DSA Komisii nedáva právo diktovať mu politické odpovede a pravidlá zároveň vyžadujú rešpektovanie slobody prejavu a plurality médií.

Poistky existujú. OpenAI deklaruje politickú neutralitu, DSA počíta s auditmi, dohľadom regulátorov, transparentnými správami a súdnou kontrolou. Ťažšia otázka znie, ako používateľ zistí, že tieto poistky pri konkrétnej odpovedi naozaj fungovali.

Ak sa pred voľbami zmenia filtre, pravidlá alebo váha zdrojov, používateľ nevidí celý výber pred odpoveďou ani všetko, čo sa do nej nedostalo. Vo verejne popísaných používateľských možnostiach, ktoré sme preverili, sme nenašli prepínač, ktorým by si používateľ mohol vypnúť osobitné volebné opatrenia alebo zobraziť všetky nezvolené zdroje.

Jedna AI nesmie byť jediným informačným vrátnikom

Používateľ preto politickú neutralitu jednej odpovede nedokáže úplne auditovať sám. Vie však znížiť riziko, že zostane odkázaný na jeden výber: otvoriť pôvodný dokument, cielene si vypýtať opačný argument a časť zistení preveriť mimo tej istej AI.

Z dnešných dokumentov nevyplýva, že treba ChatGPT opustiť. Vyplýva z nich však, že pri politicky spornej téme nemá byť jedinou informačnou cestou.

Najťažšie totiž nemusí byť zistiť, či ChatGPT povedal niečo nepravdivé. Oveľa ťažšie môže byť zistiť, čo sa do jeho odpovede vôbec nedostalo.