„Nové technológie musia vždy smerovať k úsiliu o mier a spoločné dobro v službe integrálneho rozvoja jednotlivcov a spoločenstiev,“ povedal pápež.

Pápež František vo svojom výročnom posolstve k Svetovému dňu pokoja vyzýva svetových lídrov, aby zabezpečili, že “pokrok vo vývoji foriem umelej inteligencie bude v konečnom dôsledku slúžiť veci ľudského bratstva a pokoja”.

Posolstvo venované téme “Umelá inteligencia a mier” zverejnil Vatikán vo štvrtok 14. decembra pred 57. svetovým dňom mieru, ktorý pripadá na 1. januára 2024.

Obojsmerný vedecko-technický pokrok

Pápež František v ňom upozorňuje na “etický rozmer” týchto nových technológií, ktoré spôsobujú revolúciu v ľudstve vo všetkých oblastiach života, a zdôrazňuje ambivalentnosť, ktorá je vlastná každému pokroku v oblasti vedy a techniky.

„Na jednej strane, môže viesť k zlepšeniu ľudstva a premene sveta, ak prispieva k väčšiemu poriadku v ľudskej spoločnosti a k väčšiemu bratskému spoločenstvu a slobode,“ hovorí.

„Na druhej strane však vedecko-technický pokrok, najmä v digitálnej oblasti, dáva do ľudských rúk obrovské množstvo možností, vrátane takých, ktoré môžu predstavovať riziko pre naše prežitie a ohrozovať náš spoločný domov,“ povedal pápež.

Žiadna technologická inovácia nie je “neutrálna”

Žiadny vedecký výskum a technologická inovácia nie sú “neutrálne”: „ Keďže ide o plne ľudské aktivity, ich smerovanie odráža voľby podmienené osobnými, spoločenskými a kultúrnymi hodnotami. To isté treba povedať aj o výsledkoch, ktoré prinášajú. Tieto výsledky majú vždy etický rozmer, ktorý úzko súvisí s rozhodnutiami tých, ktorí navrhujú ich experimentovanie a smerujú ich výrobu k určitým cieľom,“ povedal.

To platí podľa pápeža aj pre umelú inteligenciu : „Vplyv akéhokoľvek zariadenia umelej inteligencie – bez ohľadu na jeho základnú technológiu – závisí nielen od jeho technického riešenia, ale aj od cieľov a záujmov jeho vlastníkov a vývojárov a od situácií, v ktorých bude zariadenie použité.“

„Preto nemôžeme predpokladať, že jeho vývoj bude prínosom pre budúcnosť ľudstva a pre mier medzi národmi. Tento pozitívny výsledok dosiahneme len vtedy, ak sa ukážeme ako schopní konať zodpovedne a rešpektovať také základné ľudské hodnoty, ako sú : inklúzia, transparentnosť, bezpečnosť, spravodlivosť, súkromie a spoľahlivosť,“ píše pápež František.

Etické otázky

Z toho vyplýva potreba zriadiť orgány poverené skúmaním etických otázok vznikajúcich v tejto oblasti a ochranou práv tých, ktorí využívajú formy umelej inteligencie alebo sú nimi ovplyvnení. „Sme povinní rozšíriť svoj pohľad a nasmerovať technický vedecký výskum k úsiliu o mier a spoločné dobro v službe integrálneho rozvoja jednotlivcov a spoločenstiev,“ povedal.

„Technologický rozvoj, ktorý nevedie k zlepšeniu kvality života celého ľudstva, ale naopak, prehlbuje nerovnosti a konflikty, sa nikdy nemôže považovať za skutočný pokrok,“ hovorí pápež.

Riziká pre demokratické spoločnosti

Napríklad schopnosť niektorých zariadení vytvárať súvislé texty nie je zárukou ich spoľahlivosti. To podľa pápeža  predstavuje vážny problém, keď sa umelá inteligencia využíva v dezinformačných kampaniach, ktoré šíria falošné správy a vedú k rastúcej nedôvere voči komunikačným médiám.

„Zneužívanie týchto technológií môže mať aj ďalšie negatívne dôsledky : diskrimináciu, zasahovanie do volieb, digitálne vylúčenie a prehlbovanie individualizmu čoraz viac odtrhnutého od spoločnosti. Všetko predstavuje hrozbu pre svetový mier,“ uviedol pápež František.

Ďalej varoval pred rizikami, ktoré pre demokratické spoločnosti a mierové spolužitie predstavuje dominantná technokratická paradigma stojaca za umelou inteligenciou a kultom neobmedzenej ľudskej moci: „Tým, že v posadnutej túžbe všetko kontrolovať navrhujeme prekonať každú hranicu prostredníctvom technológie, riskujeme, že stratíme kontrolu nad sebou samými.“

Algoritmy nesmú určovať ľudské práva

Trvá na etických problémoch, ktoré predstavuje umelá inteligencia, vrátane diskriminácie, manipulácie alebo sociálnej kontroly: „Spoliehanie sa na automatické procesy, ktoré kategorizujú jednotlivcov, napríklad všadeprítomným používaním dohľadu alebo prijatím systémov sociálneho kreditu, by mohlo mať rovnako hlboké dôsledky na sociálnu štruktúru tým, že by sa vytvorilo poradie medzi občanmi.“

„Nesmieme dovoliť, aby algoritmy určovali, ako chápeme ľudské práva, aby odsúvali do úzadia základné ľudské hodnoty ako súcit, milosrdenstvo a odpustenie,“ zdôrazňuje pápež a upozorňuje aj na vplyv nových technológií na pracovisku.

Ozbrojovanie umelej inteligencie

Pápež František vyjadruje osobitné obavy z ozbrojovania umelej inteligencie, pričom uvádza najmä smrtiace autonómne zbraňové systémy (LAWS) a upozorňuje na riziko, že sofistikované zbrane skončia v rukách teroristov.

„Najpokročilejšie technologické aplikácie by sa nemali používať na uľahčenie násilného riešenia konfliktov, ale skôr na vydláždenie cesty k mieru,“ povedal.

Pápež František konštatuje, že „ umelú inteligenciu možno využiť na podporu integrálneho ľudského rozvoja, a to zavedením dôležitých inovácií v poľnohospodárstve, vzdelávaní a kultúre, zlepšením životnej úrovne celých národov a národností a rastom ľudského bratstva a sociálneho priateľstva.“

Výzvy pre vzdelávanie

V posolstve sa ďalej zdôrazňujú výzvy, ktoré umelá inteligencia predstavuje pre vzdelávanie nových generácií, ktoré vyrastajú v kultúrnom prostredí popretkávanom technológiami.

V tejto súvislosti pápež poukazuje na naliehavú potrebu vzdelávať mladých ľudí v oblasti využívania umelej inteligencie. „Toto vzdelávanie by sa malo zamerať predovšetkým na podporu kritického myslenia,“ povedal.

Potreba medzinárodnej zmluvy na reguláciu umelej inteligencie

Pápež František preto vyzýva svetové spoločenstvo národov, aby spolupracovalo na prijatí záväznej medzinárodnej zmluvy, ktorá by regulovala vývoj a používanie umelej inteligencie v jej rôznych podobách: „Globálny rozsah umelej inteligencie jasne ukazuje, že popri zodpovednosti suverénnych štátov za vnútornú reguláciu jej používania, môžu zohrávať rozhodujúcu úlohu pri dosahovaní mnohostranných dohôd a koordinácii ich uplatňovania a presadzovania aj medzinárodné organizácie.“

„Na začiatku nového roka sa modlím, aby rýchly rozvoj foriem umelej inteligencie nezvýšil počet prípadov nerovnosti a nespravodlivosti, ktoré sú v dnešnom svete až príliš prítomné, ale aby pomohol ukončiť vojny a konflikty a zmierniť mnohé formy utrpenia, ktoré sužujú našu ľudskú rodinu,“ uzatvoril posolstvo pápež.