„Obhajoba týchto technológií má zásadný nedostatok,“ uviedla na sieti Twitter Rumman Chowdhuryová, ktorá zodpovedá za umelú inteligenciu vo firme Accenture, čím sa zapojila do diskusie o prípadnom zákaze rozpoznávania tvárí v San Franciscu. „Sme snáď už v takom štádiu nebezpečenstva, že to potrebujeme? Je alebo nie je represívny dohľad spôsob, akým dosiahneme zdravú a bezpečnú spoločnosť?“

Keď sa narýchlo prijíma ktorákoľvek nová technológia, či už rozšírená alebo virtuálna realita, veľké dáta alebo strojové učenie, vždy sa pýtam – prečo? Načo by firmy alebo vlády chceli rozpoznávanie tvárí? Sama si ďalej odpovedám, že my tieto technológie vlastne neobhajujeme, ale tí, ktorí sú pri moci, z nich ťažia, prostredníctvom výroby a predaja príslušenstva alebo využívaním technológie, s úmyslom znížiť počet svojich zamestnancov. Tu nejde o spoločnosť či dokonca o civilizáciu – ide o peniaze a moc.

Za snahou prijať technológiu tvárového rozpoznávania sa však neskrývajú len peniaze a moc. Ľuďom sa dodnes darí prežiť vďaka spolupráci. Zároveň platí, že potreba kategorizovať niektorých ľudí ako „tých druhých“, tu bola odnepamäti. Nanešťastie, nepochopenie toho, kto je ten druhý a ako sa môže správať, spolu so špekuláciami prispieva k strachu a pocitu nebezpečenstva u občanov, vlád či v zložkách na presadzovanie práva. Výsledkom je, že dnes vzhľadom na tieto obavy v kombinácii s väčším, mobilnejším a rôznorodým obyvateľstvom, síce o sebe vieme, no nepoznáme sa a k vzájomnej interakcii s „druhými“ dochádza len vtedy, keď je to ozaj nutné. Strach nás tak ďalej poháňa investovať do ďalšej „bezpečnosti“, hoci keby sme si našli čas a úprimne sa zaoberali ľuďmi vo svojom okolí, báli by sme sa menej, keďže by sme sa zaujímali o dobro iného.

Experimentovanie so sledovaním

Namiesto tohto prístupu sa však navzájom sledujeme. Jedným zo spôsobov, ako sme rozvinuli schopnosť identifikovať „toho druhého“, bolo pomocou sledovacích kamier. Len čo si ich mohli dovoliť, mnohé firmy zvýšili svoje sledovacie kapacity tak, že fyzicky zaviedli kamery na svoje pozemky s cieľom vyhnúť sa krádežiam či násiliu. Bezpečnostní pracovníci sledovali videozáznamy a zároveň (alebo namiesto toho, aby) sledovali ľudí. Paradoxne tie po čase mnohých strážnikov plne nahradili. Tak sa myšlienka video sledovania stala psychologickou výstrahou a trendom v zmysle: áno, nahrávali si nás, no nevieme, či sa niekto díval na záznam a nevieme ani to, či by reagoval na to, čo videl.

So stále menšími rozmermi (a nižšou cenou), sa sledovacie kamery vkladali do ďalšieho spotrebného tovaru, čim ľudia získali možnosť začleniť túto technológiu do svojho každodenného života. Kamery v smartfónoch, pri dverách či drobné sledovacie kamery ukryté na ubytovaní AirBnb sú dnes bežné. Sledovanie sa tak deje medzi vládami, korporáciami a u každého, kto vlastní smartfón či videokameru.

V porovnaní so všeobecnejším sledovaním, výhoda kamier v domácnosti spočíva v obrane proti hrozbe zo strany „tých druhých“. Domácnosť predstavuje relatívne uzavreté prostredie a majiteľ či softvér dokáže v reálnom čase identifikovať a nahlásiť každú anomáliu. Vlastníci bývajú obozretní a využívajú aj dodatočné aplikácie, ktoré im prinášajú správy z okolia a niektorí si dokonca najímajú súkromnú bezpečnostnú službu. Zároveň sa v súkromnom domácom prostredí spracúva menej dát a do hry vstupujú aj susedia, ktorí dávajú pozor na nezvyčajnú aktivitu, čím tiež prispievajú k „sledovaciemu“ procesu.

S používaním kamier sa zároveň objavil ich nedostatok: záplava materiálu, ktorý je potrebné spracovať. Vytvorilo sa množstvo záberov, ktoré z dôvodu nedostatku ľudí nie je možné spracovať ani objasniť. Ak sa aj na nahrávke zaznamená kriminálny čin – ak sa vôbec naň príde, páchateľ už stihne medzičasom uniknúť, čo umožňuje ľahké obídenie danej technológie.

Aj za predpokladu, že je možné „prečesať“ dáta s cieľom identifikovať nejakú osobu alebo vozidlo, zdroje na riešenie zaznamenaných trestných činov často chýbajú. Zložité sledovacie systémy pred našimi domami, ktoré sú len zriedka prepojené, fungujú len vtedy, keď väčšina z nás verí tomu, že s objavenými dátami sa dá niečo urobiť.

Ak však technológia nefunguje, prichádzajú na rad inovácie či vylepšenia, a to sa týka aj sledovacích kamier. Niektoré mestá napríklad rýchlo schválili nosenie kamier policajtmi. Argument v prospech telových kamier spočíva v tom, že pomáhajú udržať správanie občanov a policajtov v medziach zákona. Ďalej môžu pomôcť pri vyšetrovaní a čoskoro zrejme aj pri sledovaní v reálnom čase. Daný prístup má však aj svoje nedostatky, napríklad, že stále existuje veľmi málo zdrojov a cena za uskladnenie a spracovávanie dát sa v prípade mnohých policajných oddelení vyšplhala vysoko. Zároveň sa objavujú názory, že v tejto súvislosti je možné urobiť viac pomocou lepšieho prístupu, tréningu a komunitnej interakcii, a nie ďalšou „lepšou“ technológiou.

Ďalšia inovácia sledovacej technológie

Výsledkom daných prístupov je, že dnes máme sledovacie kamery, ktoré sa môžu ukázať z viacerých dôvodov ako neefektívne, no stali sa neoddeliteľnou súčasťou sledovania na verejnosti ako aj v súkromnej sfére korporácií, obchodov a podobne. V zložitej situácii, ktorá si vyžaduje zapojenie sa človeka, často zaznievajú požiadavky na rýchle a lacné riešenie, ktoré bude stavať na tom, čo fungovalo už predtým, a to bez toho, aby sa bralo do úvahy, ako prídavná funkcia zmení výsledky. Takto sa na tvárové rozpoznávanie začína hľadieť ako na všeliek – ako na prídavnú funkciu už zavedenej sledovacej infraštruktúry.

Masmédiá pritom prispeli k takému vnímaniu záležitosti. V science fiction technológia rozpoznávania tvárí skrátka funguje. Vo filmoch sa oslavujú detektívi a policajti, ktorí pomocou rozpoznávania tváre chytajú zločincov a zachraňujú ľudstvo. Nejde o realitu, keďže science fiction má vopred napísaný scenár a dejové línie ani postavy nefungujú vo vzájomne závislej spoločnosti s viacerými, mnohonásobnými skúsenosťami, vierou a problémami. Príťažlivosť veľkorozpočtových science fiction filmov spolu s „cool“ technológiou je výhodou ako pre technológov, ktorí využívajú fikciu ako základ pre technológiu, ktorú chcú vybudovať, tak aj zároveň pre miestne orgány, ktoré bojujú s rozpočtovým deficitom a môžu vnímať primknutie sa k „najnovšej a najlepšej technológii“ ako cestu k úspechu a vyššiemu statusu. Vývojári technológií si nemusia byť vždy vedomí toho, ako ovplyvní spoločnosť to, čo budujú. Na druhej strane sa zdá, že niektoré samosprávy buď prehliadajú potenciálne dôsledky či vplyvy novej technológie a poskytujú ich testovanie zdarma pre technologické firmy, alebo nechápu, čo sa môže stať s ich mestom.

Tvárové rozpoznávanie teda v podstate ponúka skvelý spôsob, ako ľahko identifikovať a dolapiť zloduchov, presne ako vo filmoch, a to bez nutnosti „špinavej práce“, ktorá by znamenala vytváranie medziľudských vzťahov a spoznávanie ľudí v komunite. Je omnoho bezpečnejšie pre políciu využívať softvér, než prísť do kontaktu s potenciálne nebezpečnými kriminálnikmi – alebo riskovať, že narazia na ľudí, ktorí vôbec kriminálnikmi nie sú. Týmto spôsobom sa komplex sledovacích kamier, ktoré už môžu zahŕňať aj tvárové rozpoznávanie, pomaly ale isto využíva ako prostriedok na skúmanie komunitného správania.

Dané dáta však nepredstavujú presnú náhradu spoznávania komunity, pretože môžu byť zle vysvetlené či zneužité. Technológia napríklad nepracuje rovnako dobre a spravodlivo pre každého, menovite u tých, ktorí nie sú bielej pleti. Pred rokom bola na Massachusettskom technologickom inštitúte vykonaná štúdia, ktorá ukázala, že tri systémy na rozpoznávanie tvárí vykazovali chybovosť 0,8 percent v prípade ľudí svetlej pleti v porovnaní s 34,7 % u tmavých žien, čo môže predstavovať vážne riziko v prípade nesprávnej identifikácie ľudí pri presadzovaní práva.

Od tvárového rozpoznávania k profilovaniu

Softvér rozpoznávania tváre je inováciou v kamerovom sledovaní, ktoré bolo zavedené na riešenie sociálneho problému. Iba ľudia – a nie technológia, však môžu vyriešiť sociálne problémy. Samozrejme, človek môže použiť technológiu pri riešení daných záležitostí, z čoho vyplýva najdôležitejšia otázka: ktorá technológia je vhodná a ktorá nie a aké nástroje využiť na vytvorenie bezpečnej a zdravej spoločnosti?

Odpovede na túto otázku sú predostierané bez dostatočného vyjadrenia zo strany verejnosti. Najväčšie znepokojenie pritom vyvolávajú tie nástroje na rozpoznávanie tvárí, ktoré sú široko dostupné, pomerne lacné a využívané netransparentne či bez regulácie. Je tiež nejasné, či personálne a finančne poddimenzované alebo technologicky neskúsené policajné oddelenia budú dodržiavať dobrovoľné pravidlá, ktoré stanovia predajcovia softvéru na rozpoznávanie tvárí.

Len čo sa uplatní široké použitie softvéru od spoločností ako Amazon (a my budeme pokusnými králikmi týchto experimentov), môže prísť na rad umelá inteligencia využívajúca rozpoznávanie tváre s cieľom vyvodiť závery o nás a našom správaní. To sa už deje v Číne, kde je umelá inteligencia spolu s rozpoznávaním využívaná na sledovanie 11 miliónov moslimských Ujgurov.

„Technológia rozpoznávania tvárí, ktorá je rýchlo včleňovaná do siete čínskych bezpečnostných kamier, vyhľadáva výlučne Ujgurov na základe ich vzhľadu a sleduje a vyhodnocuje ich pohyb,“ uviedol New York Times. „V tomto zmysle je Čína prvým štátom, ktorý aplikuje najnovšiu technológiu na sledovanie svojho obyvateľstva, potenciálne predznamenávajúc novodobý automatizovaný rasizmus.“

Čínske úrady a spoločnosti využívajú technológiu na chytanie podozrivých z trestných činov počas verejných podujatí či v každodennom živote: identifikujúc ľudí na letiskách či hoteloch, na priechodoch pre chodcov, na cielenú reklamu a podobne. Rozpoznávanie sa však šíri aj po Spojených štátoch, od pohraničnej bezpečnosti až po personalizovanú reklamu v oddelení mrazených výrobkov. Vlastníci bytového komplexu v New Yorku sa nedávno pokúsili vytvoriť kľúče k bytom, ktoré by zahŕňali povinné overovanie prostredníctvom tvárového rozpoznávania.

Možno sa v otázke technológií nachádzame na rázcestí, keď sa posúvajú hranice a zároveň testujú spoločenské normy. Napríklad, ak sa o nás „vie“ prakticky všade, kam ideme, potom sa môže vytvárať naša „profilácia“. Keď sa táto profilácia dokončí, predpokladá sa, že sa naše správanie môže predvídať pomocou algoritmov. Len čo sa správanie predpokladá vládou či odborníkmi na marketing, môžeme napokon stratiť autonómiu (či zmysel pre realitu) vo svetle algoritmov, ktoré vytvárajú viac „dôveryhodných dát“ než my sami alebo ľudia, ktorých poznáme.

Na dosiahnutie spolupráce je potrebné, aby všetky strany trochu ustúpili v tom, čo chcú dokázať, čím prispievajú k akceptovateľnému výsledku. Niekedy sa stáva, že v úmysle dosiahnuť želaný výsledok sme ochotní stratiť autonómiu – no nie opakovane. V opačnom prípade už ide o otroctvo a podriadenosť. Nemožnosť zvoliť si spôsob, akým je nám niečo predávané, vlastne podkopáva samotnú spoluprácu. Aplikácie umelej inteligencie s rozpoznávaním tváre pre „pohodlie“ sa tak stávajú ešte nebezpečnejšou inováciou v rámci technologického sledovania, keďže sme nútení sa viac „odhaľovať“.

Snaha úplne zakázať daný softvér narazila na odpor. Viacerí právnici spolu so spoločnosťami ako Microsoft mali záujem presadiť regulácie, ktoré by okrem iného prikazovali jasné označenie ako varovanie pre ľudí v prípadoch, keď je na verejnosti použité rozpoznávanie tváre. Lenže bez možnosti vyhnúť sa sledovaniu vo verejnom či súkromnom priestore s výnimkou opustenia daného miesta, označenie vlastne nedáva ľuďom inú možnosť. Bez možnosti vystúpiť z takého potenciálne mocného systému sa z ľudí postupne stávajú otroci. Z tohto dôvodu sú kľúčové silné a právne vymáhateľné zákony obmedzujúce rozpoznávanie tvárí, a s nimi aj diskusia v kritickej chvíli technologického rozvoja.

V momente, keď tvárové rozpoznávanie a iné nástroje umelej inteligencie budú všade prítomné a my ostaneme bez kvalitnej legislatívy, ktorá by mohla obmedziť technológiu, nebude nás nič chrániť a naša identita a miesto, kde sa nachádzame, sa stanú objektom zámerov vlád či obchodníkov. Tam vstúpia do hry chamtivosť, zisk a moc.

Ak už chceme identifikovať tých „druhých – nebezpečných“, možno ich nájdeme medzi tými, ktorí si želajú, aby sme sa vzdali svojej tváre, identity a rôznorodosti, a to nielen preto, aby na nás mohli zarábať, ale ako spôsob automatického zaraďovania a kontroly spoločnosti. Preto je tvárové rozpoznávanie kritickou technológiou, o ktorej sa musíme rozprávať a prečo čoraz viacerí z nás si už teraz želajú ju v našej spoločnosti zakázať.

Autorka Sally Applin je antropologička zaoberajúca sa algoritmami, ľudskou činnosťou, umelou inteligenciou a automatizáciou v kontexte spoločenských systémov.

Preklad: Jana Marceau