Bože, ono to kreslí černé nacisty – aneb rouhání pokrokovým bohům

Praha 27. februára 2024 (HSP/kechlibar/Foto:screenshot)

V Googlu chtěli být tak vzorní, až to přehnali

Vyhledávací gigant Google provozuje i řadu vedlejších aktivit, s větší či menší měrou úspěšnosti (např. mobilní operační systém Android). V oblasti umělé inteligence to ovšem není velké jméno a jejich projekt Gemini spíš poklusává ve středu závodního pole.

Gemini umí generovat i obrázky a právě tato schopnost se teď v přecitlivělé části Ameriky postarala o pozdvižení. Nezbední uživatelé, pochtívající po stroji obrázky nacistických vojáků, totiž začali dostávat velmi, hm, inkluzivní výsledky:

Prásk! Rouhání progresivním bohům. Měnit lidem jejich etnickou příslušnost se přece smí jen jedním směrem. Černý Achilles a černá anglická královna jsou krásným příkladem pokrokového umění, černý Sturmbannführer naopak hnusným příkladem systémového rasismu v IT.

(Mimochodem, nacisté sice konkrétně černochy v armádě neměli, ale pokud jde o dnes módní “people of color”, součástí německého Wehrmachtu byl Indický legion skládající se ze zajatců převerbovaných na německou stranu. Jak se válka táhla, musela i Třetí říše slevovat ze svých požadavků.)

Toto je krásný příklad informatického principu “garbage in, garbage out”, čili že nacpete-li do stroje pofiderní vstupy, nemůžete dostat kvalitní výstup, leda snad čirou náhodou. Jelikož Google je firma z Kalifornie, kde je politická korektnost všeobecně rozšířeným náboženstvím, naládoval svoji AI myšlenkou, že diverzita barvy pleti je extrémně důležitý atribut – podle svých vlastních slov “aby bojoval proti škodlivým stereotypům” (citováno v článku NYT) – a vzniklé modely tedy kreslí hlavně nebělochy. Jenže se přitom zapomnělo na to, že ne všechna zadání se týkají Ameriky roku 2024 – a výsledkem jsou tedy nejen různobarevní doktoři a inženýři, ale i různobarevní vojáci Herr Hitlera. (Nemýlím-li se, ten jeden má v uchu dokonce i náušnici, z čehož by asi jeho nadřízení dostali osypky.)

Do jisté míry musíte ten ubohý stroj litovat, protože jeho snaha co nejvěrněji zrcadlit pokřivenou lidskou ideologii je až dojemná. Počítače jsou přece jenom matematické podstaty, tudíž založené na tvrdé logice, a “vecpat” do nich tak nekonzistentní a lunatické učení, jako je ten moderní progresivní neo-rasismus, je úkol pro (zajisté nebinárního) Sisyfa. Doublethink, který je spoustě lidí tak přirozený, se velmi špatně algoritmizuje. Pak z toho vylézá to, co vylézá.

Nicméně slovo varování na závěr… Většina výstupů takových systémů je textová, ne obrázková. A zatímco absurdity černocha v nacistické uniformě si všimneme hned (teď; v roce 2050 třeba už mladší lidé nebudou mít příslušné vzdělání), verbální bullshit nebývá tak nápadný a je daleko těžší v něm vyhmátnout i hrubé věcné či logické chyby. Použijete-li sofistikovaný slovník, zamícháte do výstupu několik citací (třeba i smyšlených) a celé to odvyprávíte hezkým, gramaticky čistým stylem, bude výsledný text působit přesvědčivě, i kdyby ve skutečnosti nebyl o moc reálnější než oddíl súdánských esesáků.

Článok pôvodne vyšiel na portáli kechlibar.