Najväčší problém umelej inteligencie? Nevieme zistiť, prečo sa stroj rozhodol, tak ako sa rozhodol

Praha 31. októbra 2017 (HSP/Foto:TASR/AP-Shizuo Kambayashi)

 

Moderné technológie, robotika a umelá inteligencia sa pomaly stavajú súčasťou života. Veľký rozmach zaznamenali v posledných rokoch hlavne v oblasti priemyselnej výroby. Stále však neexistuje mnoho štúdií, ktoré by zhodnotili budúci vývoj a možné riziká. Mohol by rýchly vývoj dospieť až ku katastrofickým scenárom známym zo sci-fi filmov?

Ilustračné foto

Donedávna bola prakticky využiteľná umelá inteligencia či samoučenie takmer nepredstaviteľné, pretože sme nemali dostatočne efektívne a výkonné procesory, ktoré by zložité procesy umelých neurónových sietí dokázali v reálnom čase spracovávať. To sa v súčasnosti mení. Vznikajú procesory aj celé výpočtové jednotky optimalizované priamo pre strojové učenie a umelú inteligenciu. Napríklad Fujitsu tento rok predstavilo procesor dl (Deep Learning Unit), Nvidia potom vlani „stolový superpočítač“ DGX-1 a tento rok „system on chip“ Xavier, ktoré majú na tieto úlohy dostatok výkonu a zároveň rozumne nízku spotrebu energie, informuje český portál iDnes.cz.

Ocitáme sa tak v bode, keď najväčším problémom nebude samotná technika, ale problémy skôr humanitného, filozofického a etického charakteru.

„S umelou inteligenciou sme presne v tej situácii, keď je možné veľmi ľahko definovať problém a zároveň je veľmi ťažké prísť s jeho riešením. Jeden z ťažko riešiteľných problémov sa týka strojového učenia, čo je podstatná súčasť systémov umelej inteligencie. Problém je, že nikdy neviete, na základe čoho sa systém niečo naučil, a na čom sú teda jeho rozhodnutia založené. Celá tá matematika okolo je taká, že nikto nemôže urobiť forenzný rozbor – systém sa nedá otvoriť, pozrieť si ho a zistiť, na základe čoho sa v konkrétnom prípade rozhodol. Systém umelej inteligencie je vlastne umelá neurónová sieť, je to vlastne hrubý model fungovania nášho mozgu. Môžeme si ju predstaviť ako veľkú množinu mozgových buniek a obriu množinu ich vzájomných prepojení, teda synapsií,“ objasňuje problematiku Joseph Reger, technický riaditeľ spoločnosti Fujitsu.

V prípade softvéru, ktorý nie je založený na umelej inteligencii a strojovom učení je môžené urobiť audit, ktorý zistí, či softvér nemá chyby – ešte predtým, než problém vznikne, stačí len podozrenie. A ten zistí, prečo sa softvér v daných situáciách chová tak či tak. So strojovým učením toto prakticky nie je možné, pretože to, prečo a ako sa správa, nie je naprogramované. Naprogramované je to, ako sa učí a dáva výsledky. Audit by tak certifikoval kód pre učenie, nie pre rozhodovanie – ten nie je naprogramovaný, ale naučený. A mechanizmy strojového učenia sú známe, tam sa pri audite žiadne prekvapenie neobjaví.

Ako názorný príklad môže slúžiť istá ázijská finančná inštitúcia, ktorá do testovacej prevádzky nasadila systém využívajúci strojové učenie, ktorý určoval kreditné skóre jednotlivých klientov. No a tento systém začal postupne niektorých klientov preukázateľne diskriminovať – na základe pohlavia, náboženstva či rasy.

„Máte možnosť proti tomu protestovať, ale nemáte možnosť zistiť, prečo sa systém takto chová. Kto je zodpovedný? Normálne to je tvorca systému. Ale v tomto prípade, je zodpovedný kto? U koho budete funkčnosť systému reklamovať? Tvorca sa môže ľahko brániť: výsledok učenia je závislý na dátach a metadátach, ktorá ste systému dodali, je to vaša vec. Poskytol niekto falošné dáta? A čo keď bola vstupné dáta počas učenia skreslia napríklad len ich nevhodným zberom a výberom?“ zamýšľa sa doktor Reger.

 

Pošlite nám tip

Odporúčame

Varovanie

Vážení čitatelia - diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne. Viac o povinnostiach diskutéra sa dozviete v pravidlách portálu, ktoré si je každý diskutér povinný naštudovať a ktoré nájdete tu. Publikovaním príspevku do diskusie potvrdzujete, že ste si pravidlá preštudovali a porozumeli im.

icon NAJČÍTANEJŠIE

iconNAJNOVŠIE

icon TOP ZA 7 DNÍ Z BLOGU

NAJNOVŠIA KARIKATÚRA

POČASIE NA DNES

icon FOTO DŇA

Vybrali sme

Grendel: Zatiaľ nevieme počet pozitívnych poslancov. Pri ústavných činiteľoch platí lekárske tajomstvo, preto nemusia svoj pozitívny výsledok zverejniť

0 icon

Bratislava 27. októbra 2020 (TASR/HSP/Foto:SITA-Branislav Bibel))   Národná rada (NR) SR zatiaľ nedisponuje celkovým počtom poslancov, ktorí mali pozitívne testy na ochorenie COVID-19. Na utorkovej tlačovej konferencii to povedal podpredseda parlamentu Gábor Grendel (OĽANO), ktorý je dočasne poverený vedením NR SR Grendel dodal, že aj pri ústavných činiteľoch platí lekárske…

Najväčší problém pri celoplošnom testovaní bude so zdravotníckym personálom, tvrdí Rybníček

0 icon

Bratislava 27. októbra 2020 (SITA/HSP/Foto:SITA-Branislav Bibel)   Najväčším problémom pri celoplošnom testovaní bude zabezpečiť dostatok zdravotníckeho personálu. V rozhovore pre agentúru SITA to uviedol prezident Únie miest Slovenska (ÚMS) a primátor Trenčína Richard Rybníček. Napriek tomu, že za dostatok zdravotníkov na odberných miestach zodpovedá štát, ÚMS sa snaží s ich…

Celoplošné testovanie vyvoláva podľa strany Hlas – SD viac otáznikov ako odpovedí

0 icon

Bratislava 27. októbra 2020 (SITA/HSP/Foto:SITA-Branislav Bibel)   Celoplošné testovanie podľa strany Hlas - sociálna demokracia (Hlas - SD) stále vyvoláva viac otáznikov ako odpovedí. Strana tak víta postoj prezidentky SR Zuzany Čaputovej a odborníkov na pandémiu, ktoré dnes zazneli v Prezidentskom paláci V tlačovej správe o tom informovala hovorkyňa strany…

Bíró: Mali by sme ísť príkladom pri dodržiavaní zásad vrátane prezumpcie neviny

0 icon

Bratislava 27. októbra 2020 (TASR/HSP/Foto:TASR-Jaroslav Novák)   Prokurátori Úradu špeciálnej prokuratúry (ÚŠP) musia najlepšie vedieť, či z procesného hľadiska spolu s vykonaním vyšetrovania a dokazovania pred súdmi bude možné definitívne konštatovať, či bola alebo nebola preukázaná vina z podozrenia zo spáchania takých závažných trestných činov, z akých je obvinený špeciálny…

Taraba: „Ja sa otestovať nepôjdem. Chcem vidieť a vedieť, čo bude štát so mnou robiť, rovnako ako robí s Vami“

0 icon

Bratislava 27. októbra 2020 (HSP/Foto:TASR - Jakub Kotian)   Opozičný nezaradený poslanec Tomáš Taraba (KDŽP) na sociálnej sieti uviedol, že sa nepôjde otestovať na COVID-19. Vysvetlil, prečo sa tak rozhodol "Ja sa otestovať nepôjdem. Chcem vidieť a vedieť, čo bude štát so mnou robiť, rovnako ako robí s Vami. Posielate…

Prezidentka sa vyjadrila k celoplošnému testovaniu: Ľudia sa chcú testovať, čakajú na to niekoľko dní. Je dôležité, aby počúvali hlas vedcov a lekárov. V lete sme zanedbali prácu s dezinformáciami

0 icon

Bratislava 27. októbra 2020 AKTUALIZOVANÉ (TASR/HSP/Foto:SITA-Branislav Bibel)   Prezidentka SR Zuzana Čaputová považuje za dôležité, aby ľudia počúvali v čase pandémie hlas vedcov, odborníkov či lekárov. Považuje ho za absolútne relevantný. Uviedla to po rokovaní s expertmi v súvislosti s aktuálnou pandemickou situáciou a celoplošným testovaním na COVID-19 antigénovými testami…

Čakali ste, že od 2. novembra budeme môcť slobodne vychádzať von? Omyl, predbežný termín ukončenia zákazu vychádzania sa posúva na 15. november

0 icon

Bratislava 27. októbra 2020 (TASR/HSP/Foto:TASR-Oliver Ondráš)   Predbežný termín ukončenia zákazu vychádzania je 15. november. Odsúhlasil ho aj ústredný krízový štáb. Pre TASR to uviedla Michaela Paulenová z tlačového odboru Ministerstva vnútra (MV) SR s tým, že informácie sa budú aktualizovať podľa vývoja situácie Od soboty 24. októbra platí na…

Matematik Kollár: To budú všetci podvodníci len preto, že vláda nie je ochotná priznať, že špecificita testov v reálnom prostredí proste nie je s určitosťou 100%?

0 icon

Bratislava 27. októbra 2020 (HSP/Foto:TASR – Maroš Černý)   Matematik Richard Kollár upozorňuje na riziká spojené s celoplošným testovaním za pomoci antigénových testov. Podľa neho nie je správne, aby boli ľudia označovaní za podvodníkov len preto, že im vyjdú rôzne výsledky pri testovaní antigénovými a PCR testami Kollár sa na…

Prídu farmári opäť do Bratislavy na traktoroch protestovať? Minulý týždeň pred Úradom vlády hovorili alarmujúce veci

0 icon

Bratislava 27. októbra 2020 (HSP/Foto:SITA-Branislav Bibel)   Veľké nádeje, ktoré farmári vkladali do ministra Mičovského, sa nenapĺňajú. Minulý týždeň preto zvolal Spolok farmárov protest pred Úradom vlády, aby upozornil verejnosť, médiá, ale najmä kompetentných na žalostnú situáciu, v akej sa rezort poľnohospodárstva a potravinárstva nachádza Ešte pred tridsiatimi rokmi sme…

„Pán Šeliga, čo si to dovoľujete a kto si myslíte, že ste?“ Chmelár okomentoval dobýjanie sa Šeligu na zasadnutie Akademického senátu STU, ktorému umožnili vstup až policajti

0 icon

Bratislava 27. októbra 2020 (HSP/Foto:SITA-Branislav Bibel)   Politický komentátor a vysokoškolský pedagóg Eduard Chmelár sa vyjadril k snahám na výmenu rektora Slovenskej technickej univerzity (STU) v Bratislave a k aktivitám podpredsedu NR SR Juraja Šeligu zo strany Za ľudí v tejto veci Chmelár uviedol, že ako bývalý člen Slovenskej rektorskej…

Blog - redakcia Hlavných správ nezodpovedá za obsah blogerských príspevkov

Roman Bača

Švédsky covid-19 zázrak alebo cesta do pekla?

0icon

Média i na Slovensku sa počas tohoto roku viac ráz venovali špeciálnej stratégii Švédska v boji s corona vírusom. Ich taktika minimálnych zásahov štátu do života občanov vyvolala a stále vyvoláva sympatie u mnohých ľudí po celom svete, často i kresťanov a tento obdiv k ich ceste okomentovalo pochvalne aj…

Peter Švec

Strategické správanie? Nerobme to, čo chce nepriateľ aby sme robili. Pôsobenie proti prevahe. 8. časť.

0icon

Nie každý, kto sa tvári ako priateľ, nám chce dobre. Ale každý chce zaručene dobre sebe. Táto časť ukazuje aplikácie z teórie komplexnosti pri premiérovej vojne s COVIDom, u nás so strachom z neho. Reálna vojna je vojna ľudu so zákerný, pomstychtivým, panovačným, nemúdrym vládcom, posadnutým víziou víťazstva nad vírusom. Najprv fakty na…

Andrej Biras

Najdôležitejší týždeň v histórii SR. Vyzývam k neúčasti na dobrovoľnom testovaní!

0icon

Vláda si napriek výzvam expertov z radu lekárov a ďalších, ide hlavou proti múru. Chce celý národ testovať nepresnými ag testami. Počas vysoko infekčnej pandémie, kvôli tomu rozbehla logistickú akciu presúvania miliónov ľudí a zdravotného, a vojenského personálu. Protirečí si vlastným opatreniam. Vystavuje ľudí nebezpečiu nakazenia sa a falošnej istote…

Slavěna Vorobelová

Matovič likviduje ekonomiku a životy ľudí

0icon

Svetová zdravotnícka organizácia (WHO) dňa 14.10.2020 publikovala štúdiu, v ktorej sa na základe dát z cca 70 krajín z celého sveta uvádza, že nebezpečnosť resp. smrtnosť vírusu COVID-19 je násobne nižšia než sa pôvodne uvádzalo. Pôvodné čísla boli 3,4%, potom sa hovorilo o 1 % alebo 0,9%. V poslednej štúdii…

Štefan Harabin

Dokedy Vás bude podvádzať grázel, daňový kriminálnik a korupčný plagiátor Matovič?

0icon

Ukazuje sa, že koronavírus COVID 19, nie je pandémiou, ani chrípkou, ale má úroveň bežného vírusu. WHO zverejnila novú metaštúdiu s dátami z viac ako 70 krajín sveta o COVID 19. Opakujem znova. Ľudia spamätajte sa! Veď ide o Vaše zdravie. Nenechajte zo seba pre grázla Matoviča robiť pokusných králikov.…

icon TOP ZA 7 DNÍ Z BLOGU

TopDesať

TOP10+: Veci, ktorými nás filmy a seriály klamú, pričom v skutočnosti neexistujú 1. časť

0 icon

Seriály a filmy majú niekedy jednoduchý dej, často sprevádzaný istými scénami, ktoré sa veľa krát opakujú. Čo z toho sú ale úplné hlúposti, ktoré sa v reálnom živote nikdy nestanú? Do výroby jedného filmu a seriálov sa často zapájajú stovky technikov, hercov a kameramanov, ale režisér  rozhoduje, čo bude vidieť na plátne. On určí ako bude všetko nakrútené.…

Röntgen: 10 obyčajných vecí, ktoré RTG žiarenie ukazuje v úplne inom svetle

0 icon

Odkedy ľudstvo vynašlo röntgen, skúšali sme zobraziť pod RTG žiarením doslova všetko, čo nám prišlo do rúk. Hoci sa táto technológia využíva predovšetkým ako diagnostická metóda v medicíne, umožňuje nám vidieť každodenné veci alebo činnosti v úplne inom svetle. Rozprávanie, pitie vody či nosenie podpätkov. Röntgen, presnejšie RTG žiarenie, nám…

Ilumináti – základný kameň konšpiračných teórií (3. časť)

0 icon

Ako sme sľúbili, v tretej časti článku, ktorá je zároveň poslednou s názvom Ilumináti – základný kameň konšpiračných teórií, sa pozrieme na vyhlásenie Thomasa Jeffersona a aj mimozemské plazy. Jefferson vyhlásil, že celkom chápe, prečo sa Ilumináti uchýlili do utajenia: Weishaupt žil pod nadvládou tyranie zo strany despotu a kňazov.…

Vypadávanie vlasov: Môžu za to gény alebo ovzdušie?

0 icon

Vypadávanie vlasov nie je vôbec príjemným javom. Bez rozdielu postihuje mužov aj ženy a spôsobuje mierne depresívne stavy. Vypadávanie vlasov sa odborne nazýva alopécia – tento názov je odvodený z gréckeho slova alopekia, čo označuje líšku, u ktorej sa vyskytuje „škvrnitá plešivosť“. Alopécia je pre väčšinu postihnutých nepríjemným hendikepom, a…

Zlyhania, ktoré zaboleli a rozosmiali. Títo ľudia mali smolu

0 icon

Každý z nás má občas svoj zlý deň. Niektoré tieto dni sú horšie a niektoré sú zasa len vtipné. Všetky zlyhania v našom živote však majú nejaký dôvod. Či už je to našou chybou, alebo iba zhoda náhod, ľudia sú  takýchto dní nešťastní. My ti dneska ukážeme, že takéto zlyhania…

Vo svete IT

Čo sa deje v srdci čiernej diery? Tieto teórie popierajú existenciu singularity

0 icon

Čierne diery sú pravdepodobne najextrémnejšie objekty vo vesmíre. Neunikne im ani svetlo a v ich jadre sa nachádza singularita, nekonečne malý bod  s  nekonečne veľkou hustotou. V singularite zároveň prestávajú platiť pravidlá priestoru a času. Doteraz neexistuje nič, čo by dokázalo popísať túto singularitu, dokonca existujú teórie, ktoré tvrdia, že…

NASA oznámila jeden z významnejších objavov v spojitosti s Mesiacom

0 icon

Americká vesmírna agentúra, NASA, sa už viac ako týždeň pripravovala na veľké oznámenie. To bolo odhalené v pondelok a rozhodne stojí za to, píše portál futurism. Na Mesiaci bola po prvýkrát potvrdená voda, a to nie len vo forme ľadu, ktorý sa nachádzal vo väčších kráteroch. Inými slovami, voda dokáže…

Microsoft spomaľuje distribúciu novej aktualizácie Windows 10 20H2. Chce sa vyhnúť zbytočným problémom

0 icon

Operačný systém Windows 10 obdržiava každoročne dve veľké softvérové aktualizácie, ktoré prinášajú nové funkcionality a čiastočné dizajnové zmeny. Nie je tomu inak ani v tomto roku, pričom na jar bola väčšine používateľov sprístupnená nová aktualizácia nesúca označenie Windows 10 20H1. Medzi používateľmi je aktualizácia známa aj ako aktualizácia z mája…

Google pracuje na funkcii, pomocou ktorej si budete môcť v prehliadači Chrome odložiť nedočítané články na neskôr

0 icon

Vývojárska verzia prehliadača Chrome obsahuje vcelku zaujímavú funkciu, prostredníctvom ktorej si môžete jednoduchšie ukladať články, či stránky za účelom, aby ste si ich neskôr prečítali. Zatiaľ čo v súčasnosti si musíte článok, ktorý vás zaujal, uložiť  do záložiek, kde medzi „kopiacimi sa“ stránkami dochádza k chaosu, prípadne si ju môžete…

Najhodnotnejšou značkou na svete je Apple. Mierne si polepšil Samsung, Huawei zas výrazne stratil

0 icon

Rok 2020 je pre mnoho spoločností „studenou sprchou“. Dôvodom je aktuálne prebiehajúca pandémia, ktorá ovplyvnila podnikanie mnohých firiem. Na druhej strane nájdeme aj mnoho spoločností, ktorým sa náramne darilo. Napríklad spoločnosť Zoom, ktorá raketovo rástla. Rebríček Best Global Brands 2020 (pozn. redakcie: po kliknutí na odkaz si môžete pozrieť celý…

Armádny Magazín

Peklo z neba: Ruský nálet na výcvikovú základňu v Sýrii zabil takmer 80 pro-tureckých teroristov

0 icon

Sýria, 27.október 2020 (AM) - V marci, po niekoľkých týždňoch bojov medzi sýrskymi vojakmi a rebelmi podporovanými Ankarou v provincii Idlib (po začatí operácie Jarný štít), Ruský prezident Vladimir Putin a jeho Turecký náprotivok Recep Tayyip Erdogan sa dohodli na zásade prímeria, ako aj na zriadení spoločných rusko-tureckých hliadok pozdĺž diaľnice…

Americký Bell dodal polícii Poľskej republiky tri vrtuľníky Bell 407 GXis

0 icon

Fort Worth, USA, 27. októbra 2020 (AM) – Bell Textron Inc., dcérska spoločnosť Textron Inc. (NYSE: TXT), oznámila, že dodala Polícii Poľskej republiky tri stroje Bell 407 GXis. Poľská polícia je viac než 20 rokov tradičným zákazníkom Bellu. Úlohou týchto vrtuľníkov je pomáhať a chrániť obyvateľov, udržiavať verejný poriadok a bezpečnosť…

Ďalší incident v Sýrii: Američanmi podporovaní ozbrojenci v Sýrii spustili streľbu na civilistov

0 icon

Sýria, 27.október 2020 (AM) - Na webe sa objavilo video, ktoré ukazuje, ako proamerické sily SDF ("Sýrske demokratické sily") začali strieľať na civilistov v Sýrii. Incident sa stal včera v malom meste na východe krajiny - Garanij. Nespokojní s okupačným režimom SDF sa priazni

Veliteľ legendárneho Luhanského práporu „Prízrak“ - Alexej Markov zahynul. Video

0 icon

Luhansk, 26. októbra (AM) -  Pri nehode zahynul veliteľ 14. práporu územnej obrany „Duch“ podplukovník Ľudových milícií LPR, člen rady veliteľov Zväzu dobrovoľníkov Donbasu Alexej Markov (volacia značka „Dobry“).   Sibírčan, rodák z Omsku, absolvent školy fyziky a matematiky a univerzity v Novosibirsku, vyštudovaný jadrový fyzik, žil v

Cudzinecká Légia: Ako je to so zmenou identity pri vstupe

0 icon

Francúzsko, 27.október 2020 (AM) - Pre doplnenie znalosti francúzštiny, slovo "Légion" znamená vo francúzštine "MNOŽSTVO". Čiže skutočný, doslovný preklad názvu Légion étrangère by mal byť skôr "Množstvo Cudzincov" a nie Cudzinecká légia. Avšak Légia je už zaužívané pomenovanie a preto zostanem v tomto zaužívanom spôsobe.   Táto armáda vznikla už v…

Svetlo sveta

Cirkev v Holandsku protestuje proti rozšíreniu eutanázie na deti do 12 rokov

0 icon

Cirkev v Holandsku protestuje proti rozšíreniu eutanázie aj na deti do 12 rokov. V Holandsku totiž vláda oznámila, že povolí vykonávanie eutanázie aj u terminálne chorých detí do 12 rokov. Krajina, ktorá umožnila eutanáziu ako prvá na svete, najskôr len v obmedzenej forme, postupne rozšírila jej vykonávanie na všetky vekové…

S modlitbou ruženca premenil prázdny kostol v moslimskej štvrti na živú farnosť s 1000 veriacimi na omši.

0 icon

Michel Marie Zanotti je katolíkom z prinútenia, keď starý otec, žid, pred strachom z II. svetovej vojny, dal svoje deti pokrstiť. Otec Michel, ako ho dnes pozná celé Francúzsko, patrí dnes k veľkým pokladom francúzskeho katolíckeho duchovenstva. Veľa moderných kňazov pri vlastnej interpretácii II. Vatikánskeho koncilu nadobudlo dojem, že k…

Slovenskí biskupi odporúčajú ľuďom zúčastniť sa na celoplošnom testovaní

0 icon

Keďže v spoločnosti rezonujú otázky, týkajúce sa celoplošného testovania, ktoré sa chystá v nasledujúcich dňoch, o stanovisko sme požiadali predsedu Konferencie biskupov Slovenska Mons. Stanislava Zvolenského. Jeho odpoveď prinášame v plnom znení. “Čo sa týka plošného testovania na ochorenie Covid-19, v záujme zastavenia šírenia koronavírusu, po porade s otcami biskupmi,…

Život s ovdoveným otcom sa pre Jána Pavla II. stal “prvým seminárom.”

0 icon

Ján Pavol II vo svojich spomienkach častokrát hovoril, že obdobie po smrti jeho matky a život s otcom bol “prvým jeho seminárom”, ktorý ho nasmeroval na neskoršiu kňazskú dráhu. Práve konfrontovaný so smrťou a bolesťou spôsobenou smrťou matky a jeho súrodencov sa stalo tým, čo dopomohlo vzniku silného citového puta…

Arcibiskup Sheen: Matka Božia je Bohorodička

0 icon

Dnes Vám budem rozprávať o našej svätej Matke. A začnem Lurdami. Lurdy sú mestečkom na juhu Francúzska, kde sa v minulom storočí zjavila Panna Mária. Bol som tam 30 krát. Nikdy nezabudnem na prvú moju návštevu tohto pútnického mesta. V tom čase som študoval v Belgicku na univerzite, ako mladý…

icon FOTO DŇA