Vatikán hostil odbornú diskusiu o etickom vplyve AI na spoločnosť a médiá

Pár dní po slávení 60. svetového dňa spoločenských komunikačných prostriedkov a oznámení Svätej stolice o zriadení interdikasteriálnej komisie venovanej umelej inteligencii, v čase, keď sa pápež Lev XIV. pripravuje na zverejnenie svojej prvej encykliky, čo sa udeje 25. mája, Magnifica humanitas, venovanej ochrane ľudskej osoby v dobe umelej inteligencie, Vatikán dnes (21. mája, pozn. prekl.) otvoril medzinárodnú diskusiu o jednej z najdôležitejších otázok našej doby: ako chrániť tváre, hlasy a ľudské myslenie v dobe algoritmov.

Vo štvrtok 21. mája sa na Pápežskej Urbanove univerzite začala medzinárodná konferencia na tému „Preserving Human Voices and Faces [ Chrániť ľudské hlasy a tváre]“, ktorú organizuje Dikastérium pre komunikáciu v spolupráci s Dikastériom pre kultúru a vzdelávanie, Nadáciou sv. Jána XXIII. a samotnou Pápežskou univerzitou.

Názov konferencie priamo odkazuje na tému, ktorú si zvolil pápež Lev XIV. pre posolstvo k 60. svetovému dňu spoločenských komunikačných prostriedkov, ktorý sa minulú nedeľu slávil v mnohých krajinách sveta. V tomto posolstve pápež označil výzvu umelej inteligencie predovšetkým za antropologickú otázku a varoval pred rizikom, že umelé napodobňovanie vzťahov, emócií a dokonca aj osobnej identity naruší samotnú štruktúru ľudského spolunažívania. „Otázka, ktorá nám leží na srdci, sa však netýka toho, čo dokáže alebo nedokáže stroj, ale toho, čo môžeme a budeme môcť urobiť my“, napísal pápež a vyzval k budovaniu uvedomelého vzťahu s týmito nástrojmi, založeného na zodpovednosti, spolupráci a výchove. Pápež Lev od začiatku svojho pontifikátu označil umelú inteligenciu za novú „sociálnu otázku“, ktorú treba riešiť vo svetle sociálnej náuky Cirkvi, dôstojnosti práce a spravodlivosti.

Ruffini: nedelegujme naše myslenie na stroje

Podujatie otvoril Paolo Ruffini, prefekt Dikastéria pre komunikáciu, ktorý konferenciu hneď zasadil do kontextu pápežského posolstva a cirkevnej reflexie o technologickej inovácii. „Chrániť [hlasy a tváre], pokiaľ ide o ľudí, je výzvou. Neznamená to odložiť niečo do zásuvky, ale s láskou sa starať o niekoho alebo niečo,“ uviedol prefekt a vysvetlil, že ochrana, o ktorej hovoril pápež, nie je formou pasívnej konzervácie, ale aktívnym prejavom zodpovednosti. Ruffini potom zdôraznil riziko postupného delegovania ľudského myslenia na umelé systémy, pričom pripomenul jednu z ústredných obáv posolstva Leva XIV.: „Najväčšie nebezpečenstvo spočíva v pasívnom prijatí myšlienky, že poznanie už nepatrí nám; a že niečo, čo sme sami vytvorili – algoritmy, platformy alebo automatizované systémy – môžeme poveriť tým, aby myslelo namiesto nás.“

Prefekt opísal súčasnú transformáciu informačného ekosystému ako výzvu, ktorá priamo zasahuje žurnalistiku, vzdelávanie a verejnosť, pričom poukázal na potrebu rozlišovať medzi pravdou a simuláciou, medzi ľudským slovom a štatistickým výpočtom, medzi poznaním a automatizmom. „Ekonomika komunikácie nemôže a nesmie oddeliť svoj osud od zdieľania pravdy,“ uviedol a ako nevyhnutné kritériá na obnovenie ústrednej úlohy človeka uviedol transparentnosť zdrojov, zodpovednosť a kvalitu informácií.

De Mendonça: tvár a hlas nie sú údaje, ale miesta vzťahu

Vo svojom pozdravnom príhovore kardinál José Tolentino de Mendonça, prefekt Dikastéria pre kultúru a vzdelávanie, zasadil túto tému do širšej antropologickej a kultúrnej reflexie, pričom priamo odkazoval na slovník posolstva pápeža Leva XIV. „Názov, ktorý nás tu zhromažďuje – Chrániť ľudské tváre a hlasy – je programom, ba dokonca vyznaním viery v človeka,“ uviedol. Kardinál ďalej pripomenul, že v klasickej a kresťanskej tradícii tvár a hlas nie sú len jednoduchými identifikačnými prvkami, ale hlbokými prejavmi osoby a vzťahu. „ Ľudská bytosť sa nikdy nedá zredukovať na údaj, profil alebo algoritmus – poznamenal – Človek je vždy výnimočný, je tajomstvom, vzbudzuje záujem“.

Kardinál ďalej poukázal na riziká umelej simulácie vzťahov, pričom spomenul emocionálne chatboty, deepfake a digitálne prostredia postavené na personalizovanom profilovaní, ktoré sú schopné zmeniť „samotnú gramatiku ľudského stretnutia“ . Záverečný dôraz však kardinál kládol na možnosť pozitívneho rozlišovania: „Výzva, ktorá nás čaká, nespočíva v zastavení digitálnej inovácie, ale v jej usmerňovaní“, v súlade s výzvou pápeža budovať kritické a zodpovedné spojenectvo s technológiou.

Medzinárodná a interdisciplinárna diskusia

Konferencia zhromaždila popredné osobnosti sveta informácií, výskumu a technologických inovácií, čo potvrdzuje vôľu Vatikánu podporovať širokú a skutočne globálnu diskusiu. Prítomní boli poprední novinári, ako Kashmir Hill z New York Times, známa svojimi investigatívnymi reportážami o súkromí, rozpoznávaní tváre a digitálnom sledovaní; vedúci predstavitelia sveta informácií, ako Vineet Khosla, technologický riaditeľ Washington Post; odborníci na politickú komunikáciu a digitálne médiá; špecialisti na machine learning a informatiku; experti na algoritmickú etiku a sociálnu spravodlivosť; osobnosti zaoberajúce sa správou digitálnych platforiem a overovaním pravosti obsahu. Medzi rečníkmi bola aj Joy Buolamwini, zakladateľka organizácie Algorithmic Justice League, uznávaná autorita v oblasti upozorňovania na algoritmické skreslenia (bias) v systémoch rozpoznávania tváre; Mitchell Baker, spoluzakladateľka projektu Mozilla; Tristan Harris, jeden z najznámejších kritikov ekonomiky pozornosti; zástupcovia UNESCO, Európskej vysielacej únie, univerzít z Európy, Ameriky a Afriky. Zloženie jednotlivých panelov odrážalo aj významnú geografickú rozmanitosť, pričom mierne prevládali ženy.

Témy diskusie

Konferenčný deň bol rozdelený do štyroch hlavných blokov, čo vychádzajú priamo z jadra posolstva pápeža. Prvý blok sa týkal vzťahu medzi simuláciou a autenticitou a zaoberal sa otázkami chatbotov, umelých vzťahov, deepfake a transformácie informačného ekosystému. Druhý blok sa zaoberal problémom sociálnych nerovností a kládol si otázku, či modely umelej inteligencie nehrozia posilnením už existujúcich diskriminácií a nerovnováh. Tretí blok sa zameriaval na možnosť spojenectva medzi človekom a technológiou, medzi inováciou, zodpovednosťou a správou vecí verejných. Štvrtý blok sa sústredil na vzdelávanie a pripomínal naliehavosť nevzdať sa schopnosti kriticky myslieť.

Zdroj: Vaticannews, talianska redakcia

Článok pôvodne vyšiel na portáli tkkbs.sk.