Ako algoritmy tajne vládnu svetu

Ako algoritmy tajne vládnu svetu

Brusel 15. februára 2017 (HSP/Yahoo/Foto:Pixabay)

 

Pri hľadaní nových topánok v e-shope, pri vyberaní filmu online alebo pri žiadosti o úver na auto cez internet má výsledok na svedomí pravdepodobne jeden a ten istý algoritmus

neo-urban-1808082_640 

Reklama

Zložité matematické vzorce zohrávajú čoraz väčšiu úlohu vo všetkých oblastiach života: od detekcie rakoviny kože cez návrhy nových priateľov na Facebooku až po rozhodovanie o tom, kto dostane prácu, ako budú nasadené policajné zdroje, kto dostane poistenie a za akú cenu, alebo kto je na “no fly” zozname.

Algoritmy sú používané – experimentálne – aj na písanie novinových článkov z nespracovaných údajov, zatiaľ čo prezidentskej kampani Donalda Trumpa pomáhal marketéri, ktorí používajú algoritmus pre lokalizáciu najvyššej koncentrácie nerozhodných voličov.

Reklama

Ale zatiaľ čo takéto automatizované procesy dokážu aplikovať určitú mieru objektivity do niekdajších subjektívnych rozhodnutí, rastú obavy rastú z nedostatku transparentnosti algoritmov, s čím rastú aj tlaky na aplikáciu etických štandardov či “zodpovednosti.”

Vedkyňa Cathy O’Neilová varuje pred “slepou dôverou” vo vzorce pre stanovenie spravodlivého riešenia. “Algoritmy nie sú vo svojej podstate spravodlivé, pretože úspech algoritmu zadefinovala opäť len osoba,” povedala.

– Zosilňujúce nevýhody –

O’Neilová tvrdí, že zatiaľ čo niektoré algoritmy môžu byť užitočné, ostatné môžu byť naopak škodlivé. Vo svojej knihe z roku 2016, “Zbrane matematického ničenia” (Weapons of Math Destruction) cituje niektoré znepokojujúce príklady v Spojených štátoch:

– Štátne školy vo Washingtone DC v roku 2010 vyhodili viac ako 200 učiteľov – vrátane niekoľkých uznávaných – podľa skóre v algoritmickom vzorci, ktorý hodnotil ich výkon.

Reklama

– Muž s diagnózou bipolárna porucha nezískal zamestnanie u siedmich predajcov po tom, čo ho zamietla aplikácia tretej strany, ktorá hodnotila osobnosť, pretože algoritmus ho vyhodnotil ako vysoko rizikového na základe jeho klasifikácie.

– Niektoré súdy sa spoliehajú na počítačové vzorce pre stanovenie výkonu trestu odňatia slobody, čo môže diskriminovať menšiny tým, že algoritmus berie do úvahy aj faktory, ako miesto bydliska vo štvrtiach s vysokou kriminalitou.

– Vo svete financií makléri získavajú dáta z internetových a iných zdrojov novými spôsobmi, pre rozhodnutie o úvere alebo poistení. To však príliš často zosilňuje predsudky voči znevýhodneným osobám.

Výsledky O’Neilovej sa odrazili v správe Bieleho domu vlani s výstrahou, že algoritmické systémy “nie sú neomylné – spoliehajú sa na nedokonalé vstupy, logiku, pravdepodobnosť, a ľudí, ktorí ich navrhnú”.

Správa uvádza, že dátové systémy môžu v ideálnom prípade vyradiť ľudskou zaujatosť, ale zároveň varovala, že algoritmy “systematicky znevýhodňujú niektoré skupiny.”

Reklama

– Digitálne omrvinky –

Zeynep Tufekciová, profesorka University of North Carolina, ktorá sa zaoberá vzťahom technológie a spoločnosti, povedala, že automatizované rozhodnutia sú často založené na údajoch získaných o ľuďoch, niekedy aj bez ich vedomia.

“Tieto výpočtové systémy dokážu o vás vyvodiť najrôznejšie veci z takzvaných digitálnych omrviniek,” povedala Tufekciová v nedávnej TED prednáške.

“Môžu odvodiť vašu sexuálnu orientáciu, osobnostné rysy, politické sklony. Majú predpovedaciu silu s vysokou mierou presnosti.”

Takéto poznatky môžu byť užitočné v určitých kontextoch – napríklad pomáhajú lekárom diagnostikovať popôrodnú depresiu – ale nespravodlivé v iných krajinách, povedala.

Časť problému pramení z toho, že kladieme počítačom otázky, ktoré nemajú jedinú správnu odpoveď.

“Sú to subjektívne a otvorené otázky, ktorých ľudí by mala spoločnosť najať, novinky od ktorých priateľov na Facebooku sa vám budú zobrazovať, ktorý odsúdený má najväčšiu pravdepodobnosť znovu spáchať trestný čin.”

– Model EÚ? –

Frank Pasquale, profesor práva z University of Maryland a autor knihy “Čierna skrinka spoločnosti: Tajomstvo algoritmov, ktoré kontrolujú peniaze a informácie” (The Black Box Society: The Secret Algorithms That Control Money and Information), zdieľa rovnaké obavy.

Pasquale navrhuje, že jedným spôsobom, ako napraviť nekalé účinky, môže byť presadzovanie existujúcich zákonov na ochranu spotrebiteľa.

Reklama

Pasquale poukazuje na práva Európskej únie v oblasti ochrany údajov a navrhuje vytvoriť “právo na vysvetlenie” v prípadoch, kedy budú spotrebitelia negatívne ovplyvnení algoritmickým rozhodnutím.

To by “buď prinútilo k transparentnosti, alebo zastavilo používanie algoritmov v určitých kontextoch,” povedal.

Alethea Langeová, politická analytička Centra pre demokraciu a technológiu, povedala, že plán EÚ “znie dobre”, ale “je naozaj náročný” a je pravdepodobné, že bude nepoužiteľný v praxi.

Langeová však verí, že vzdelávanie a diskusia môžu byť dôležitejšie ako vynucovania v rozvoji spravodlivejších algoritmov.

Langeová povedala, že jej organizácia pracovala s Facebookom napríklad na modifikácii kritizovaného vzorca, ktorý umožnil inzerentom používať “etnickú spriaznenosť” v ich zacielení.

Reklama

– Obetný baránok –

Iní medzitým upozorňujú, že algoritmy by nemali byť obetným baránkom za spoločenské neduhy.

“Ľudia sa hnevajú a hľadajú niečo, čomu by mohli pripísať vinu,” povedal Daniel Castro, viceprezident Nadácie pre informačné technológie a inovácie.

“Obávame sa o predpojatosti, zodpovednosti a etických rozhodnutí, avšak tieto existujú, či používate algoritmy, alebo nie.”

 

Reklama

Pošlite nám tip
Reklama

Odporúčame

Reklama

Varovanie

Vážení čitatelia - diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne. Viac o povinnostiach diskutéra sa dozviete v pravidlách portálu, ktoré si je každý diskutér povinný naštudovať a ktoré nájdete tu. Publikovaním príspevku do diskusie potvrdzujete, že ste si pravidlá preštudovali a porozumeli im.

NAŽIVO

Včera 20:26

Spojené štáty vo štvrtok odsúdili ruské veto, ktorým Moskva na pôde Bezpečnostnej rady OSN zablokovala predĺženie dohľadu expertov OSN nad dodržiavaním sankcií zavedených voči Severnej Kórei.

Včera 20:20

Nemecký tenista Alexander Zverev postúpil do semifinále dvojhry na turnaji ATP 1000 v Miami. Vo štvrťfinále zdolal v pozícii nasadenej štvorky Maďara Fábiána Maroszána 6:3, 7:5.

Včera 20:07

Jozef Bíreš končí na pozícii ústredného riaditeľa Štátnej veterinárnej a potravinovej správy (ŠVPS) SR. Jeho presný dátum odchodu má byť dohodnutý dodatočne.

Včera 20:04

Medzinárodný súdny dvor (MSD) vo štvrtok nariadil Izraelu prijatie viacerých opatrení v súvislosti so zlou situáciou v Pásme Gazy. Prikázal otvoriť ďalšie pozemné hraničné priechody s cieľom umožniť prísun potravín, vody, pohonných hmôt a ďalších zásob do tejto vojnou zničenej palestínskej enklávy.

Včera 19:11

Ceny ropy vo štvrtok po dvoch dňoch poklesu ožili a vzrástli. Investori očakávajú totiž napätejšie dodávky. Vychádzajú pritom z predpokladu, že najväčší svetoví producenti z aliancie OPEC+ budú pokračovať v doterajšej politike obmedzovania ťažby.

Včera 19:04

Vo štvrtok skoro ráno sa na ulici v rímskej štvrti Quadraro vytvorila diera v zemi s priemerom a aj hĺbkou desať metrov, ktorá pohltila dve zaparkované autá, informovali talianske médiá s odvolaním na miestnu políciu.

Včera 19:04

Ruský prezident Vladimir Putin šíri propagandu, ak tvrdí, že Moskva zostrelí akúkoľvek stíhačku F-16 dodanú Ukrajine Západom, dokonca aj na letiskách NATO, vyhlásil vo štvrtok taliansky minister zahraničných vecí a vicepremiér Antonio Tajani.

Včera 18:59

Britské múzeum vo štvrtok oznámilo, že jeho novým riaditeľom sa stal historik umenia Nicholas Cullinan. Vo funkcii nahradil Hartwiga Fischera, ktorý odstúpil po tom, čo sa ukázalo, že v múzeu došlo k sérii krádeží.

Včera 18:38

Zakladateľ skrachovanej burzy kryptomien FTX Sam Bankman-Fried pôjde na 25 rokov do väzenia, rozhodol vo štvrtok americký súd. Očakáva sa, že sa Bankman-Fried proti rozsudku odvolá.

Včera 18:37

Pápež František vo štvrtok umyl a pobozkal nohy 12 väzenkyniam v rímskej väznici Rebibbia. Išlo o súčasť obradov Zeleného štvrtka.

Včera 18:36

Najdôležitejšie bilaterálne otázky a aktuálne medzinárodné politické záležitosti boli hlavnými témami štvrtkového telefonického rozhovoru maďarského prezidenta Tamása Sulyoka s izraelským prezidentom Jicchakom Hercogom,

Včera 18:33

Biely dom vo štvrtok označil tvrdenia ruských predstaviteľov o útoku islamistických teroristov na koncertnú sálu pri Moskve za rozširovanie “nezmyslov”. Reagoval na pokus spojiť útok s Ukrajinou.

Zobraziť všetky

NAJČÍTANEJŠIE










Reklama

NAJNOVŠIE










Reklama
Reklama

NAJNOVŠIA KARIKATÚRA

POČASIE NA DNES

NAJNOVŠIE ROZHOVORY

NAJNOVŠIE Z DOMOVA

NAJNOVŠIE ZO ZAHRANIČIA

NAJNOVŠIE ZO ŠPORTU

NAJNOVŠIE ZO SVETONÁZORU

FOTO DŇA

Gaucho alebo juhoamerický kovboj kúpe koňa počas festivalu ródea Criolla Week v Montevideu v Uruguaji

Autor: AP/Matilde Campodonico

Facebook icon

Vážení čitatelia, prosíme vás, aby ste sa prihlásili na našu novú facebookovú stránku. Facebook nám totiž zmazal niektoré účty, ktoré starú stránku spravovali

Reklama
Reklama

Blog - redakcia Hlavných správ nezodpovedá za obsah blogerských príspevkov

Viktor Pondělík

Miro Majerník

Pavel Jacz

Vanda Rybanská

Pavol Lemko

Reklama
Facebook icon

Vážení čitatelia, prosíme vás, aby ste sa prihlásili na našu novú facebookovú stránku. Facebook nám totiž zmazal niektoré účty, ktoré starú stránku spravovali