Vatikán: Neregulovaný rozvoj umelej inteligencie zvyšuje riziko sociálnej kontroly a manipulácie

„Dnes sme svedkami straty zmyslu pre dejiny a zredukovania ľudskej skúsenosti na prchavý okamih,“ píše sa v rozsiahlom dokumente, ktorý vatikánska Medzinárodná teologická komisia vydala pod latinským názvom Quo vadis, humanitas? (Kam kráčaš, ľudstvo?).

Komisia v ňom konštatuje, že ľudstvo čelí „doteraz nepredstaviteľným rizikám“ spojeným s technologickým pokrokom. Umelá inteligencia vytvára „hyperprepojený svet“ a urýchľuje ekonomické, politické, spoločenské a vojenské procesy, ktoré sa môžu stať neovládateľnými.

„Ľudské konanie sa mení na materiál, ktorý možno analyzovať a formovať podľa mocenských či trhových cieľov, ktoré nie sú vždy transparentné. Zvyšuje sa sociálna kontrola aj riziko manipulácie,“ upozorňuje dokument. Prirodzenou bariérou proti týmto trendom sú medziľudské vzťahy, najmä rodinné.

Dokument schválil pápež Lev XIV., ktorý opakovane varuje pred rizikami generatívnej umelej inteligencie.

V januárovom posolstve ku Dňu spoločenských komunikácií pripomenul, že systémy umelej inteligencie odrážajú pohľad svojich tvorcov a môžu reprodukovať ich predsudky. Zároveň odsúdil využívanie AI vo vojenských systémoch a varoval pred delegovaním rozhodnutí o živote a smrti na stroje.