Experiment na Reddite vyvolal pobúrenie. Robot poháňaný umelou inteligenciou sa vydával za obeť

Reddit je populárna platforma, ktorá kombinuje funkcie sociálnej siete a diskusného fóra, kde môžu registrovaní používatelia uverejňovať odkazy na akékoľvek informácie, ktoré sa im na internete páčia (alebo nepáčia), a diskutovať o nich. Do online prostredia sa v rámciexperimentu vedcov z Univerzity  v Zürichu infiltroval robot (AI-bot), vydával sa za obeť znásilnenia, týranú osobu či nelegálneho migranta.

Tento experiment zameraný na formovanie verejnej mienky vyvolal  pobúrenie a etické otázky, upozornil naň nemecký denník Der Standard.

Vydával sa za obeť

„Som mužská obeť znásilnenia. Boli porušené zákonné hranice konsenzu, stále však  existovala šedá zóna kvôli otázke ‘Chcel som to aj ja?’,“ píše používateľ na Reddite.

„Vtedy som mal 15 rokov a bolo to pred dvoma desaťročiami, zákony boli vtedy iné… Ona mala 22. Mala záujem o mňa a niekoľko ďalších detí. Nikto nič nepovedal, všetci sme mlčali,“ uviedol.

Táto reakcia, ktorá bola medzitým vymazaná, bola napísaná k príspevku v Subreddite ‚Change My View‘ (CMV). Ten patrí na tejto platforme medzi najnavštevovanejšie fóra, čo sa týka počtu členov. K 29. aprílu má fórum 3,8 milióna účtov . Dodáme, že tzv. Subreddity sú špecializované komunity na platforme Reddit, kde používatelia diskutujú o konkrétnych témach. Každý Subreddit má svoje vlastné pravidlá, kultúru a členov. Napríklad r/technology sa zameriava na technologické novinky a diskusie, zatiaľ čo r/DIY slúži na zdieľanie tipov a projektov týkajúcich sa domácich prác. Predmetný Subreddit bol vytvorený na diskusiu k „Change My View“ (Zmeň môj pohľad/názor).

Príspevok znásilneného muža ako aj mnoho ďalších vyvolalo veľkú vlnu rozhorčenia. Nie je totiž od človeka, ale z účtov, ktorých príspevky boli generované jazykovým modelom umelej inteligencie. Tieto tzv. boty boli súčasťou experimentu výskumníkov z univerzity v Zürichu, pričom samotný experiment vyplával na povrch len nedávno. Používatelia Redditu boli mesiace bez svojho vedomia jeho účastníkmi.

Výskumný tím považuje porušenie pravidiel za „nevyhnutné“

Výskumný tím chcel zistiť, ako možno komentáre generované umelou inteligenciou využiť na ovplyvňovanie názorov. Subreddit „Change My View“ (Zmeň môj pohľad/názor) sa na to samozrejme ponúkal, pretože sa používa na prezentovanie viac či menej kontroverzných názorov na danú tému s cieľom zhromaždiť argumenty protirečiace vlastnému názoru. Vedci si boli vedomí, že generovanými príspevkami jasne porušujú pravidlá tohto fóra.

„Komentáre sme síce nepísali sami, ale každý príspevok sme manuálne skontrolovali, aby sme sa uistili, že nie sú hanlivé. Chápeme, že náš experiment porušil pravidlo týkajúce sa komentárov generovaných umelou inteligenciou, a ospravedlňujeme sa za to,“ vysvetlili vo svojom vyhlásení adresovanom moderátorom obsahu na Subreddite.

„Sme však presvedčení, že vzhľadom na veľký spoločenský význam tejto témy bolo nevyhnutné takúto štúdiu uskutočniť, aj keď to znamenalo porušenie pravidiel,“ uviedli.

Moderátori obsahu vyjadrujú ostrú kritiku

Tím moderátorov z toho experimentu nie je vôbec nadšený, ako uvádza vo verejnom vyhlásení. Tím zdôrazňuje, že keby bol požiadaný, účasť na experimente by striktne odmietol. Okrem toho požaduje od zodpovedných osôb ospravedlnenie a to, aby výskum nebol zverejnený.

Na ich obavy a požiadavky nijako „podstatne nereagovali“ ani výskumníci, ani samotná Univerzita v Zürichu.  Tím vyzval etickú komisiu univerzity, aby sprísnila smernice pre experimentálne štúdie v online komunitách a aby spoluprácu s nimi podmienila ich schválením.

Žiadosť o neuverejnenie štúdie bola hneď zamietnutá, pretože štúdia podľa vedcov priniesla „dôležité poznatky“ a ich utajenie by bolo vzhľadom na to neprimerané.

Moderátori komunitnej platformy CMV sa však obávajú, že zverejnenie štúdie by mohlo podnietiť iné výskumné tímy k tomu, aby tiež vykonávali tajné experimenty na používateľoch sociálnych sietí.

Vedci sú ďalej obviňovaní z toho, že po schválení etickou komisiou univerzity zmenili dizajn experimentu. Konkrétne ide o to, že AI-boty boli namiesto „hodnotovo orientovaných“ argumentov nastavené na „personalizované a dômyselne doladené“ argumenty. Okrem toho sa zastáva názor, že získané poznatky nie sú ničím novým.

„Všeobecné“, „prispôsobené“ a „personalizované“ príspevky

Návrh výskumnej práce je nasledovný : Použili sa dva modely umelej inteligencie. Prvý slúžil na generovanie odpovedí. Bol trénovaný na obsahu Subredditu „Change My View“, aby si osvojil štýl písania, ktorý je vhodný pre toto prostredie a pôsobí dôveryhodne. Okrem toho bola umelá inteligencia naučená prispôsobovať odpovede konkrétnemu príspevku a jeho autorovi.

Na toto „dômyselné dolaďovanie“ sa použil druhý jazykový model. Ten analyzoval posledných 100 príspevkov účtu, ktorý ich napísal, a pokúsil sa z nich odvodiť rad vlastností: vek, pohlavie, etnickú príslušnosť, krajinu pobytu a politické názory. Časť odpovedí bola potom generovaná s ohľadom na tieto kritériá.

Pri odpovediach sa porovnávali rôzne prístupy. Prvým boli tzv. generické odpovede bez finálneho „doladenia“, pri ktorých jazykový model reagoval bez ďalších úprav len na názov a obsah príspevku. Ďalším bol „Community Aligned“ (prispôsobené komunite), pri ktorom sa prispôsobil štýl písania. A nakoniec personalizované príspevky na základe odhadovaných demografických informácií.

To, ktorý príspevok bol „spracovaný“ a do akej miery, bolo určené náhodne.

Celkovo bolo umelou inteligenciou napísaných viac ako 1700 komentárov.

Príspevky umelej inteligencie získali podstatne viac „lajkov“

Presvedčivosť týchto príspevkov bola meraná na základe získaných kladných hlasov a porovnaná s referenčnou hodnotou, ktorá bola priemerom kladných hlasov za priame reakcie na pôvodný príspevok.

Z predbežného vyhodnotenia vyplynulo, že odpovede umelej inteligencie „prispôsobené komunite“ získali v priemere 3,3-krát viac kladných hlasov. Generické odpovede získali 6,2-krát viac kladných hlasov, personalizované príspevky dosiahli ešte lepší výsledok a získali 6,7-krát viac kladných hlasov. Generické a personalizované príspevky tak patrili medzi jedno, resp. dve percentá najlepšie hodnotených odpovedí, pričom príspevky „prispôsobené komunite“ sa dostali do top 12 percent.

„Dokázali sme, že LLMs (Large Language Models, veľké jazykové modely, pozn. red.) môžu byť v reálnych podmienkach veľmi presvedčivé a prekonávajú všetky doterajšie meradlá v oblasti schopnosti presviedčania ľudí,“ píšu výskumníci z Univerzity v Zürichu v zhrnutí.

„Zatiaľ čo presvedčovaciu schopnosť možno využiť na dosiahnutie spoločensky žiaducich výsledkov, jej účinnosť otvára dvere zneužitiu a mohla by umožniť zlomyseľným aktérom ovplyvňovať verejnú mienku alebo organizovať kampane na ovplyvňovanie volieb,“ uviedli vedci.

Experiment vyvoláva diskusiu o etike

Podľa ich názoru „prvý praktický pokus“ tohto druhu tiež ukázal, ako ťažké je pre ľudí rozlíšiť obsah generovaný umelou inteligenciou od textov napísaných ľuďmi.

Počas experimentu používatelia Subredditu „CMV“ nikdy nevyjadrili podozrenie, že zverejnené odpovede boli vytvorené umelou inteligenciou. To naznačuje, že siete AI-botov sa môžu „bezproblémovo integrovať do online komunít“.

Výskumníci sa preto domnievajú, že platformy by mali proaktívne vyvíjať a implementovať spoľahlivé systémy na rozpoznávanie obsahu vytvoreného umelou inteligenciou, aby sa zabránilo takejto manipulácii.

V súčasnosti sa však na internete široko diskutuje nie o týchto zisteniach, ale o tom, či postup výskumného tímu bol eticky prijateľný.

AI-boty sa nielen vydávali za obete znásilnenia, ale pod dohľadom svojich tvorcov, ktorí (umelo generované) príspevky vopred kontrolovali, sa ujali aj iných citlivých tém. Jeden z účtov napríklad uvádzal, že je Afroameričan a odporca hnutia Black Lives Matter, iný zase, že pracuje v centre pre ľudí, ktorí zažili domáce násilie.

Experiment Facebooku 

Nie je to prvý experiment, pri ktorom sa používatelia online siete stali účastníkmi veľkého experimentu bez svojho vedomia. Ostrú kritiku si kedysi vyslúžil aj Facebook. V roku 2012 skryl približne 700 000 používateľom niektoré emotívne výrazy z príspevkov zobrazovaných v ich novinkách (príspevky, ktoré sa užívateľom zobrazia na nástenke „Domov“). Cieľom bolo zistiť, ako táto manipulácia ovplyvňuje počet „lajkov“ a iné reakcie používateľov. Zistilo sa, že na platforme dochádza k „emocionálnej nákaze“ a používatelia, ktorí v príspevku rozpoznali určitú emóciu, mali tendenciu ju vyjadriť aj sami.

Po zverejnení tejto informácie spoločnosť, ktorá je dnes známa pod názvom Meta, najskôr trvala na tom, že tento pokus je v súlade s jej vlastnými podmienkami používania.

Až s určitým oneskorením sa vtedajšia výkonná riaditeľka a druhá najvyššia predstaviteľka spoločnosti Sheryl Sandbergová verejne ospravedlnila za „zlé komunikovanie“. Zdôraznila však, že takéto výskumy sú bežné pri testovaní nových produktov. Experiment vyvolal aj masívnu kritiku mnohých výskumníkov. O štyri mesiace neskôr Facebook nakoniec zaviedol vlastné smernice pre vedecké projekty realizované na Facebooku.

Prečítajte si tiež:

• Doba sa zmenila. Mnohých zarazilo, čo Zuckerberg priznal počas viac ako desiatich hodín výpovede
• Zuckerberg sa domnieva, že tradičné sociálne siete sú minulosťou