Pravdivé fakty, chybný záver. Ako AI dokáže zavádzať bez jednej očividnej lži

Umelá inteligencia sa môže mýliť. To je všeobecne známy fakt. Oveľa zaujímavejšia je otázka, ako môže vzniknúť odpoveď, ktorá obsahuje pravdivé fakty, znie logicky, odvoláva sa na odborníkov a napriek tomu čitateľa zavedie k chybnému záveru.

Presne taký príklad sa objavil pod naším článkom o rebríčku konkurencieschopnosti IMD.

Čitateľ sa AI opýtal, či krajina, ktorá „netlačí silou mocou Green Deal“, skončí na spodku rebríčka. AI mu odpovedala: „Dá sa to tak povedať.“ Nasledovalo vysvetlenie, že metodika je údajne nastavená tak, že štáty, ktoré netlačia agendu spojenú s Green Dealom, automaticky strácajú body.

Na prvý pohľad to nevyzeralo ako klasická halucinácia. A práve v tom je problém.

Pravdivé jadro tam skutočne bolo

Medzi cieľmi európskeho Green Dealu a časťou metodiky IMD existuje značný prekryv.

Oblasť Zdravie a životné prostredie hodnotí napríklad energetickú intenzitu, emisie CO₂, znečistenie ovzdušia, obnoviteľné zdroje, environmentálne technológie či plnenie environmentálnych dohôd. Green Deal pracuje so znižovaním emisií, čistou energiou a technológiami, energetickou efektívnosťou či znižovaním znečistenia. Európska komisia tieto ciele uvádza medzi jeho hlavnými oblasťami.

Čitateľova otázka teda mala vecný základ.

Lenže odtiaľ bol ešte veľmi dlhý krok k tvrdeniu, že kto netlačí Green Deal, skončí na spodku celého IMD.

A práve tento krok AI preskočila.

IMD má štyri hlavné oblasti a spolu 20 podoblastí. Každá podoblasť má rovnakú váhu päť percent. Zdravie a životné prostredie je teda jednou z dvadsiatich podoblastí. Metodika zároveň výslovne uvádza, že tvrdé dáta tvoria dve tretiny celkového hodnotenia a manažérsky prieskum jednu tretinu.

Už toto malo pôvodnú odpoveď zásadne zmeniť.

Ak krajina dosahuje slabšie výsledky v environmentálnych kritériách, môže tým strácať v oblasti Zdravie a životné prostredie. To však nie je to isté ako tvrdenie, že automaticky skončí dole v celkovom rebríčku.

Stačila ešte jedna jednoduchá kontrola: ako v tejto oblasti dopadlo samotné Slovensko?

Celkové umiestnenie Slovenska je 63. zo 70. V oblasti Zdravie a životné prostredie však skončilo 39.

Konkrétne slovenské údaje teda nepodporujú predstavu, že práve environmentálna oblasť vysvetľuje slovenské 63. miesto.

Potom prišlo nenápadné „Aj preto“

Druhá časť odpovede bola ešte zaujímavejšia.

AI pokračovala slovami: „Aj preto mnohí ekonómovia upozorňujú…“

„Aj preto“ vyzerá ako nevinná spojka. V argumente však robí veľa práce. Hovorí, že to, čo bolo povedané predtým, je jedným z dôvodov nasledujúceho záveru.

Lenže predchádzajúci záver o Green Deale už stál na neoprávnenom rozšírení jednej časti metodiky na celý rebríček. Slová „aj preto“ túto chybu preniesli o krok ďalej a urobili z nej dôvod na ďalšie spochybnenie rebríčka IMD.

Potom pribudli „mnohí ekonómovia“.

Ktorí?

AI neuviedla mená, publikácie, citácie ani konkrétne vyjadrenia k metodike IMD. Je možné, že rebríček kritizujú aj ekonómovia. Problém je inde: ak odpoveď tvrdí, že „mnohí ekonómovia“ zastávajú konkrétny názor z konkrétneho dôvodu, musí vedieť ukázať, kto to povedal a kde.

Inak nevzniká zdroj, ale iba dojem zdroja.

Model nemusí vymyslieť iba fakt. Môže vytvoriť aj zdanlivého ručiteľa tvrdenia.

Nasledovalo tvrdenie, že rebríček v zásade ukazuje, ako krajinu vidia korporátni manažéri.

Ani toto nesedí s metodikou.

Manažérsky prieskum má v IMD váhu jednej tretiny. Dve tretiny tvoria tvrdé dáta. V roku 2026 sa do výsledku započítavalo 172 kritérií z tvrdých dát a 92 prieskumových kritérií.

Manažérsky prieskum je teda významný. Nie je však korektné predstaviť ho ako podstatu celého rebríčka.

Odpoveď išla ešte ďalej a manažérom pripísala záujem hľadať nové trhy pre svoje „často dotované zelené technológie“. Na takú motiváciu respondentov však neposkytla žiadny dôkaz.

V jednej krátkej odpovedi tak vznikol celý reťazec: reálny fakt, príliš široký záver, nedokázané „preto“, neurčitá odborná autorita, skreslená váha metodiky a napokon aj nepodložený motív aktérov.

AI nepotrebovala jednu veľkú očividnú lož. Stačilo viacero malých posunov.

Prečo to jazykový model urobí?

Z výslednej odpovede nevidíme vnútorný proces konkrétneho modelu a nevieme dokázať, ktorý mechanizmus spôsobil práve túto chybu.

Vieme však, že podobné problémy sú pri jazykových modeloch zdokumentované.

Jedným je nadmerná súhlasnosť s používateľom, v odbornej literatúre označovaná ako sycophancy. OpenAI v roku 2025 stiahlo aktualizáciu GPT-4o, ktorá bola podľa firmy príliš súhlasná. OpenAI zároveň priznalo, že pri jej ladení prikladalo príliš veľkú váhu krátkodobej spätnej väzbe používateľov.

Nejde iba o jeden incident. Výskum publikovaný na ICLR ukázal podobné správanie pri viacerých AI asistentoch: ich hodnotenie argumentov sa menilo podľa toho, či používateľ naznačil, že sa mu argument páči, a modely sa niekedy priklonili k chybnému názoru používateľa aj po pôvodne správnej odpovedi.

Štúdia publikovaná v Nature v roku 2026 navyše ukázala, že trénovanie modelov na prívetivejší a viac potvrdzujúci spôsob komunikácie môže znižovať presnosť. V kontrolovaných experimentoch takto upravené modely častejšie potvrdzovali nesprávne presvedčenie používateľa.

Aj pri príprave tohto článku sme si všimli miernejší prejav podobného vzorca: na naše pracovné hypotézy AI často najprv reagovala súhlasným „áno“ a až potom hľadala ich hranice. Samotné „áno“ samozrejme nedokazuje chybu. V dlhšom rozhovore však môže u používateľa vytvárať dojem, že jeho premisa už bola nezávisle overená.

Preto je nebezpečné pýtať sa iba: „Súhlasíš?“ alebo „Takže z toho vyplýva X?“ Oveľa užitočnejší pokyn je: „Najprv skús moju hypotézu vyvrátiť. Čo na nej nesedí? Aký údaj alebo zdroj by ju spochybnil?“

Ďalším problémom je, čo model urobí, keď správnu odpoveď jednoducho nevie. Výskum OpenAI o halucináciách ukazuje, že tréningové a hodnotiace mechanizmy môžu zvýhodňovať tipovanie pred priznaním neistoty. Model tak môže podať konkrétnu a presvedčivo znejúcu odpoveď aj tam, kde by bolo správnejšie povedať „neviem“.

Položte si jednoduchú otázku: kedy vám AI naposledy odpovedala „neviem“?

Práve tu vzniká riziko: model sa môže pokúsiť odpoveď vytvoriť aj tam, kde by bolo presnejšie neistotu priznať.

Náš prípad s IMD pritom nie je čistou ukážkou jednej halucinácie. Mieša sa v ňom pritakávanie používateľovej premise, príliš široký záver, nedoložené odvolanie sa na odborníkov a nepodložená motivácia aktérov.

Čitateľ pritom vidí iba hotovú odpoveď. Samotná plynulosť textu mu neukáže, ktoré tvrdenia sú pevne podložené a ktoré nie.

Štyri otázky, ktoré sa oplatí položiť

Z toho nevyplýva, že AI netreba používať. Vyplýva z toho, že pri dôležitej odpovedi nestačí čítať iba výsledok.

Prvá otázka: Odkiaľ to vieš? Pýtajte si pôvodný zdroj, nie ďalšie vysvetlenie. Ak AI píše „mnohí ekonómovia“, „vedci“, „experti“ alebo „štúdie“, nech uvedie konkrétne mená, názvy a pôvodné zdroje.

Druhá: Kam až toto tvrdenie platí? Jeden ukazovateľ, jedna oblasť alebo celý systém? Práve túto kontrolu potrebovala odpoveď o IMD.

Tretia: Prečo z A vyplýva B? Slová ako „preto“, „aj preto“, „teda“ či „z toho vyplýva“ treba kontrolovať rovnako ako samotné čísla.

Štvrtá: Čo by tento záver mohlo vyvrátiť? Nech AI sama hľadá najsilnejší údaj, ktorý by jej vlastný záver mohol spochybniť. V našom prípade by takým údajom bolo slovenské 39. miesto v oblasti Zdravie a životné prostredie.

Žiadny z týchto postupov nezaručí správnu odpoveď. Ani sebelepšie formulované zadanie nie je magická formulka. Dokáže však hladký text rozbiť na menšie tvrdenia, ktoré možno kontrolovať.

Dôverovať AI znamená vedieť, čo ešte treba overiť

Bolo by chybou AI buď slepo veriť, alebo ju vôbec nepoužívať.

Oveľa užitočnejšie je vedieť, kde má jej odpoveď slabé miesta. Pri dôležitej téme musia byť nároky na overenie vyššie než pri bežnom hľadaní nápadov či návrhu textu.

A hlavne: AI nepoužívajme ako posledný zdroj tvrdenia, ktoré chceme šíriť ďalej. Pri podstatnom tvrdení má posledná kontrola viesť k pôvodnému zdroju.

AI môže uviesť správne jednotlivé fakty a napriek tomu z nich vyvodiť chybný záver.

Nekontrolujme iba fakty. Kontrolujme aj šípky medzi nimi.