Minulý pondelok jeden významný britský vedec hodil granát do horúčkovitého mraveniska výskumníkov a korporácií, ktoré sú v súčasnosti posadnuté umelou inteligenciou alebo AI. Tým vedcom bol Geoffrey Hinton a bombou bola správa, že odchádza zo spoločnosti Google, pretože chce slobodne vyjadriť svoje obavy z toho kam smeruje technológia, pri ktorej zakladaní zohral zásadnú úlohu.

Ak by sme povedali, že to bola veľká novinka, bolo by to veľmi slabé slovo. Technologický priemysel je obrovské, vzrušené zviera, ktoré je občas náchylné na výbuchy “iracionálneho bujnenia”, teda šialenstva. Jeden z nedávnych záchvatov sa týkal kryptomeny a vízie budúcnosti internetu s názvom “Web3”, ktorú bystrá mladá blogerka a kritička Molly Whiteová pamätne opísala ako “obrovský podvod, ktorý našu už aj tak tlejúcu planétu polial zapaľovačom.”

V súčasnosti sa nachádzame v období ďalšieho vzplanutia bujarého nadšenia, ktoré vyvolala “generatívna umelá inteligencia” chatboty, veľké jazykové modely (LLMs) a iné exotické artefakty umožnené masívnym nasadením strojového učenia, ktoré priemysel v súčasnosti považuje za budúcnosť, na ktorú sa usilovne pripravuje.

Nedávno sa viac ako 27 000 ľudí, vrátane mnohých, ktorí sa vyznajú v tejto technológii, tak znepokojilo nad prebiehajúcim bezhlavým zhonom smerom k strojmi riadenej dystopii, že vydali otvorený list, v ktorom žiadajú polročnú prestávku vo vývoji tejto technológie. “Pokročilá umelá inteligencia by mohla predstavovať hlbokú zmenu v dejinách života na Zemi,” uvádza sa v ňom “a preto by sa mala plánovať a riadiť s primeranou starostlivosťou a prostriedkami.”

Bol to milý list, pripomínajúci ranné kázanie mačkám, že by mali byť láskavé k malým cicavcom a záhradným vtákom. Technologickí giganti, ktorí majú za sebou dlhú históriu ľahostajnosti k potrebám spoločnosti, vycítili novú príležitosť na ovládnutie sveta a nedovolia, aby im skupina nervóznych intelektuálov stála v ceste.

Preto bola Hintonova intervencia taká významná. Je to totiž človek, ktorého výskum odomkol technológiu, ktorá sa teraz v dobrom i zlom pohybuje po svete. A to je dosť presvedčivý dôvod, prečo si sadnúť a venovať tomu pozornosť.

Je to skutočne pozoruhodná osobnosť. Ak existuje niečo ako intelektuálny rodokmeň, tak Hinton je čistokrvný.

Jeho otec, entomológ, bol členom Kráľovskej spoločnosti. Medzi jeho predkov patrí George Boole, matematik z 19. storočia, ktorý vynašiel logiku, ktorá je základom všetkých digitálnych počítačov. Ďalej je to Charles Howard Hinton, matematik a spisovateľ, ktorého myšlienka “štvrtého rozmeru” sa stala základom vedeckej fantastiky. A jeho sesternica, jadrová fyzička Joan Hintonová, bola jednou z mála žien, ktoré pracovali na vojnovom projekte Manhattan v Los Alamos, v rámci ktorého bola vyrobená prvá atómová bomba.

Hinton bol celý svoj dospelý život posadnutý umelou inteligenciou, najmä problémom, ako vytvoriť stroje, ktoré sa dokážu učiť.

Prvým prístupom k tomuto problému bolo vytvorenie “Perceptronu” – stroja, ktorý bol modelovaný podľa ľudského mozgu a založený na zjednodušenom modeli biologického neurónu. V roku 1958 profesor z Cornellovej univerzity Frank Rosenblatt takýto stroj skutočne zostrojil a neurónové siete boli istý čas horúcou témou v tejto oblasti.

V roku 1969 však pišla zdrvujúca kritika dvoch vedcov z MIT, Marvina Minského a Seymoura Paperta… a z neurónových sietí sa zrazu stala včerajšia správa.

Až na to, že jeden tvrdohlavý výskumník menom Hinton bol presvedčený, že sú kľúčom k strojovému učeniu. Ako píše technologický reportér denníka New York Times Cade Metz, “Hinton zostal jedným z mála, ktorí verili, že jedného dňa sa naplnia jeho sľuby a vzniknú stroje, ktoré budú schopné nielen rozpoznávať predmety, ale aj identifikovať hovorené slová, rozumieť prirodzenému jazyku, viesť rozhovor a možno dokonca riešiť problémy, ktoré by ľudia sami nedokázali vyriešiť.”

V roku 1986 spolu so svojimi dvoma kolegami z Torontskej univerzity uverejnil prelomovú prácu, v ktorej ukázal, že sa im podarilo vyriešiť problém, ako umožniť neurónovej sieti, aby sa pomocou matematickej techniky nazývanej “spätné šírenie” neustále zlepšovala. Hinton tento prístup šikovne pokrstil slovným spojením “hlboké učenie”, ktorého sa mohli chytiť novinári. V reakcii na to ho označili za “krstného otca umelej inteligencie”, čo je hlúpe aj podľa bulvárnych štandardov.

V roku 2012 Google zaplatil 44 miliónov dolárov za začínajúcu spoločnosť, ktorú založil so svojimi kolegami a Hinton začal pracovať pre technologického giganta, pričom viedol a inšpiroval skupinu výskumníkov, ktorí vykonali väčšinu neskoršej prelomovej práce v oblasti strojového učenia.

Počas svojho pôsobenia v Googli sa Hinton pomerne nezáväzne (aspoň na verejnosti) vyjadroval o nebezpečenstve, že by nás táto technológia mohla priviesť do dystopickej budúcnosti. “Až donedávna,” hovoril, “som si myslel, že táto existenčná kríza je ešte ďaleko. Takže v skutočnosti neľutujem to, čo som urobil.”

Ale teraz, keď sa stal opäť, takpovediac slobodným človekom, má zjavne väčšie obavy. V rozhovore z minulého týždňa začal vysvetľovať prečo. Jadrom jeho obáv bola skutočnosť, že nové stroje sa učia oveľa lepšie a rýchlejšie ako ľudia. “Spätné šírenie môže byť oveľa lepší algoritmus učenia, než aký máme my. To je desivé… Máme digitálne počítače, ktoré sa dokážu naučiť viac vecí rýchlejšie a môžu sa to okamžite naučiť navzájom.”

Zaujímavejší je však fakt, že to, čo ho skutočne znepokojuje, je skutočnosť, že táto výkonná technológia je plne v rukách niekoľkých obrovských korporácií.

Ešte pred rokom Hinton vyhlasoval, že “Google sa správal ako správny správca technológie a dával pozor, aby nezverejnil niečo, čo by mohlo spôsobiť škodu.”

“Teraz však, keď Microsoft rozšíril svoj vyhľadávač Bing o chatbota, čo je výzva pre Google, sa spoločnosť ponáhľa použiť rovnaký druh technológie. Technologickí giganti sa dostali do konkurenčného boja, ktorý sa možno nebude dať zastaviť.”

Má pravdu. Pohybujeme sa na neprebádanom území.

No, nie úplne nezmapované. Je to príbeh, ktorý Richard Rhodes rozpráva vo svojej monumentálnej histórii vzniku atómovej bomby. Dňa 12. septembra 1933 čakal známy maďarský teoretický fyzik Leo Szilard na križovatke pri Britskom múzeu, aby prešiel cez cestu. Práve čítal správu o prejave Ernesta Rutherforda z predchádzajúceho dňa, v ktorom tento veľký fyzik povedal, že každý, kto “hľadá zdroj energie v premene atómu, hovorí bludy.”

Szilardovi zrazu napadla myšlienka jadrovej reťazovej reakcie a uvedomil si, že Rutherford sa mýlil. “Keď prechádzal cez ulicu,” píše Rhodes, “čas sa pred ním roztvoril a on uvidel cestu do budúcnosti, smrť do sveta a všetky naše strasti, podobu vecí, ktoré prídu.”

Szilard bol spoluautorom (s Albertom Einsteinom) listu prezidentovi Rooseveltovi (o riziku, že Hitler môže zostrojiť atómovú bombu), ktorý viedol k projektu Manhattan a všetkému, čo nasledovalo.

Prečítajte si tiež:

Krstný otec umelej inteligencie odišiel z Google, aby varoval ľudstvo pred jej hrozbami