Najväčší problém umelej inteligencie? Nevieme zistiť, prečo sa stroj rozhodol, tak ako sa rozhodol

Najväčší problém umelej inteligencie? Nevieme zistiť, prečo sa stroj rozhodol, tak ako sa rozhodol

Praha 31. októbra 2017 (HSP/Foto:TASR/AP-Shizuo Kambayashi)

 

Moderné technológie, robotika a umelá inteligencia sa pomaly stavajú súčasťou života. Veľký rozmach zaznamenali v posledných rokoch hlavne v oblasti priemyselnej výroby. Stále však neexistuje mnoho štúdií, ktoré by zhodnotili budúci vývoj a možné riziká. Mohol by rýchly vývoj dospieť až ku katastrofickým scenárom známym zo sci-fi filmov?

Ilustračné foto

Donedávna bola prakticky využiteľná umelá inteligencia či samoučenie takmer nepredstaviteľné, pretože sme nemali dostatočne efektívne a výkonné procesory, ktoré by zložité procesy umelých neurónových sietí dokázali v reálnom čase spracovávať. To sa v súčasnosti mení. Vznikajú procesory aj celé výpočtové jednotky optimalizované priamo pre strojové učenie a umelú inteligenciu. Napríklad Fujitsu tento rok predstavilo procesor dl (Deep Learning Unit), Nvidia potom vlani “stolový superpočítač” DGX-1 a tento rok “system on chip” Xavier, ktoré majú na tieto úlohy dostatok výkonu a zároveň rozumne nízku spotrebu energie, informuje český portál iDnes.cz.

Reklama

Ocitáme sa tak v bode, keď najväčším problémom nebude samotná technika, ale problémy skôr humanitného, filozofického a etického charakteru.

“S umelou inteligenciou sme presne v tej situácii, keď je možné veľmi ľahko definovať problém a zároveň je veľmi ťažké prísť s jeho riešením. Jeden z ťažko riešiteľných problémov sa týka strojového učenia, čo je podstatná súčasť systémov umelej inteligencie. Problém je, že nikdy neviete, na základe čoho sa systém niečo naučil, a na čom sú teda jeho rozhodnutia založené. Celá tá matematika okolo je taká, že nikto nemôže urobiť forenzný rozbor – systém sa nedá otvoriť, pozrieť si ho a zistiť, na základe čoho sa v konkrétnom prípade rozhodol. Systém umelej inteligencie je vlastne umelá neurónová sieť, je to vlastne hrubý model fungovania nášho mozgu. Môžeme si ju predstaviť ako veľkú množinu mozgových buniek a obriu množinu ich vzájomných prepojení, teda synapsií,” objasňuje problematiku Joseph Reger, technický riaditeľ spoločnosti Fujitsu.

Reklama

V prípade softvéru, ktorý nie je založený na umelej inteligencii a strojovom učení je môžené urobiť audit, ktorý zistí, či softvér nemá chyby – ešte predtým, než problém vznikne, stačí len podozrenie. A ten zistí, prečo sa softvér v daných situáciách chová tak či tak. So strojovým učením toto prakticky nie je možné, pretože to, prečo a ako sa správa, nie je naprogramované. Naprogramované je to, ako sa učí a dáva výsledky. Audit by tak certifikoval kód pre učenie, nie pre rozhodovanie – ten nie je naprogramovaný, ale naučený. A mechanizmy strojového učenia sú známe, tam sa pri audite žiadne prekvapenie neobjaví.

Ako názorný príklad môže slúžiť istá ázijská finančná inštitúcia, ktorá do testovacej prevádzky nasadila systém využívajúci strojové učenie, ktorý určoval kreditné skóre jednotlivých klientov. No a tento systém začal postupne niektorých klientov preukázateľne diskriminovať – na základe pohlavia, náboženstva či rasy.

“Máte možnosť proti tomu protestovať, ale nemáte možnosť zistiť, prečo sa systém takto chová. Kto je zodpovedný? Normálne to je tvorca systému. Ale v tomto prípade, je zodpovedný kto? U koho budete funkčnosť systému reklamovať? Tvorca sa môže ľahko brániť: výsledok učenia je závislý na dátach a metadátach, ktorá ste systému dodali, je to vaša vec. Poskytol niekto falošné dáta? A čo keď bola vstupné dáta počas učenia skreslia napríklad len ich nevhodným zberom a výberom?” zamýšľa sa doktor Reger.

 

Reklama
Pošlite nám tip
Reklama

Odporúčame

Reklama

Varovanie

Vážení čitatelia - diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne. Viac o povinnostiach diskutéra sa dozviete v pravidlách portálu, ktoré si je každý diskutér povinný naštudovať a ktoré nájdete tu. Publikovaním príspevku do diskusie potvrdzujete, že ste si pravidlá preštudovali a porozumeli im.

NAŽIVO

08:36

Francúzski politici z celého spektra v stredu vyjadrili zdesenie nad odstúpením riaditeľa parížskej školy, ktorý dostal vyhrážky smrťou za to, že požiadal študentku, aby si v priestoroch školy zložila moslimský závoj.

Premiér Gabriel Attal, bývalý minister školstva, chcel ukázať riaditeľovi podporu a pozval ho v stredu do svojho úradu.

08:24

Šéf ruskej rozviedky Sergej Naryškin navštívil tento týždeň Severnú Kóreu, kde viedol diskusie o bezpečnostnej spolupráci.

Naryškin sa stretol so severokórejským ministrom pre štátnu bezpečnosť Ri Čang-daem.

08:15

Ceny ropy sa vo štvrtok ráno zvýšili a vyrovnali tak časť strát z predchádzajúcich dvoch dní. Od začiatku marca oba hlavné kontrakty posilnili o približne 4,5 % a k zisku za celý mesiac smerujú už tretíkrát po sebe.

08:07

Zástupcovia štátov EÚ sa v stredu večer dohodli na novom kompromise o clách na niektoré ukrajinské poľnohospodárske výrobky, oznámilo belgické predsedníctvo Rady EÚ.

Podľa diplomatov sa do EÚ bude môcť bez cla predávať menej tovaru, ako sa pôvodne plánovalo. Medzi dotknuté výrobky patria vajcia, hydina, cukor a kukurica. Sprísnenie požiadaviek si ešte vyžaduje súhlas Európskeho parlamentu.

07:58

Bývalý americký senátor a demokratický kandidát na viceprezidenta USA Joe Lieberman zomrel v stredu vo veku 82 rokov.

Lieberman zomrel v stredu v New Yorku v kruhu rodiny v dôsledku komplikácií po páde, uvádza sa vo vyhlásení.

Joe Lieberman
Na archívnej snímke Joe Lieberman
07:52

Cirkevní predstavitelia v Jeruzaleme vyzvali v stredu vo svojom veľkonočnom posolstve na “okamžité a udržateľné prímerie” vo vojne medzi Izraelom a palestínskym radikálnym hnutím Hamas v Pásme Gazy.

Zároveň vyzvali na rýchlu distribúciu humanitárnej pomoci v Pásme Gazy, na “prepustenie všetkých rukojemníkov” i na neobmedzený prístup lekárskych tímov k chorým a zraneným.

07:38

Americký prezident Joe Biden zablahoželal v stredu víťazovi prezidentských volieb v Senegale Bassirouovi Diomayeovi Fayeovi.

Opozičný kandidát Bassirou Diomaye Faye vyhral prezidentské voľby v Senegale so ziskom 54,28 percenta hlasov. Kandidát vládnej koalície Amadouo Ba získal 35,79 percenta hlasov.

07:30

Nemecká polícia v stredu znížila počet obetí ťažkej nehody autobusu pri Lipsku z piatich na štyri, uviedla tamojšia polícia.

Podľa polície zahynuli pri nehode dovedna štyria ľudia a piaty sa nachádza v život ohrozujúcom stave. Inšpekcia dopravnej polície prípad vyšetruje ako zabitie z nedbanlivosti.

07:12

Telá dvoch nezvestných osôb objavili záchranné zložky v stredu vo vode po zrútení mosta v meste Baltimore na východe USA, uviedli tamojšie úrady. Informujú agentúry AP a DPA.

06:58

Francúzsky prezident Emmanuel Macron v stredu vyjadril podporu plánu Brazílie vyvíjať ponorky na jadrový pohon. Neoznámil však žiadnu konkrétnu spoluprácu v oblasti technológie jadrového pohonu, na ktorú Brazília naliehala.

Raoni Metuktire, Emmanuel Macron
Na snímke zľava francúzsky prezident Emmanuel Macron a brazílsky náčelník Raoni Metuktire sa vítajú na ostrove Combu v Brazílii
06:51

Počet mŕtvych po útoku na koncertnú sálu v Moskve stúpol v stredu na 143, oznámili ruské úrady.

Úrady zverejnili mená mŕtvych päť dní po útoku z minulého piatka. Išlo o najsmrtiacejší útok, k akému sa doteraz prihlásila extrémistická organizácia Islamský štát (IS) na európskom území, a najhorší v Rusku za posledných 20 rokov.

06:45

Nemecká letecká spoločnosť Lufthansa a odbory zastupujúce pozemný personál sa dohodli na nových mzdových a pracovných podmienkach. Ako v stredu oznámili obe strany, odvrátili hrozbu štrajkov počas veľkonočných sviatkov.

06:35

Dva bombové útoky islamistického hnutia aš-Šabáb v centrálnej časti Somálska zabili v utorok najmenej 53 ľudí, počet zranených nie je známy.

Pri jednom z útokov islamisti pred základňou Busley v provincii Dolný Šabel odpálili vozidlá naložené výbušninami. Pri následnej prestrelke podľa hovorcu somálskej vlády zahynulo desať islamistov a päť vojakov.

06:30

V prvom kole senegalských prezidentských voľbách zvíťazil opozičný kandidát Bassirou Diomaye Faye so ziskom 54,28 percenta hlasov. Kandidát vládnej koalície Amadouo Ba získal 35,79 percenta hlasov. Vyplýva to z oficiálnych predbežných výsledkov zverejnených v stredu.

Zobraziť všetky

NAJČÍTANEJŠIE










Reklama

NAJNOVŠIE










Reklama
Reklama

NAJNOVŠIA KARIKATÚRA

POČASIE NA DNES

NAJNOVŠIE ROZHOVORY

NAJNOVŠIE Z DOMOVA

NAJNOVŠIE ZO ZAHRANIČIA

NAJNOVŠIE ZO ŠPORTU

NAJNOVŠIE ZO SVETONÁZORU

FOTO DŇA

Veľké vlny na pláži Nazare v Portugalsku

Autor: TASR/AP-Michael Probst

Facebook icon

Vážení čitatelia, prosíme vás, aby ste sa prihlásili na našu novú facebookovú stránku. Facebook nám totiž zmazal niektoré účty, ktoré starú stránku spravovali

Reklama
Reklama

Blog - redakcia Hlavných správ nezodpovedá za obsah blogerských príspevkov

Vanda Rybanská

Pavol Lemko

Milan Šupa

Ivan Štubňa

Juraj Tušš

Reklama
Facebook icon

Vážení čitatelia, prosíme vás, aby ste sa prihlásili na našu novú facebookovú stránku. Facebook nám totiž zmazal niektoré účty, ktoré starú stránku spravovali