Minulý pondelok jeden významný britský vedec hodil granát do horúčkovitého mraveniska výskumníkov a korporácií, ktoré sú v súčasnosti posadnuté umelou inteligenciou alebo AI (väčšinou ide o technológiu nazývanú strojové učenie). Tým vedcom bol Geoffrey Hinton a bombou bola správa, že odchádza zo spoločnosti Google, kde posledných 10 rokov robil skvelú prácu v oblasti strojového učenia, pretože chce slobodne vyjadriť svoje obavy z toho, kam smeruje technológia, pri ktorej zakladaní zohral zásadnú úlohu.

Ak by sme povedali, že to bola veľká novinka, bolo by to veľmi slabé slovo. Technologický priemysel je obrovské, vzrušujúce zviera, ktoré je občas náchylné na výbuchy “iracionálneho bujnenia”, teda šialenstva. Jeden z nedávnych záchvatov sa týkal kryptomien a vízie budúcnosti internetu s názvom “Web3”, ktorú bystrá mladá blogerka a kritička Molly Whiteová pamätne opísala ako “obrovský podvod, ktorý našu už aj tak tlejúcu planétu polial tekutinou do zapaľovača”.

V súčasnosti sa nachádzame v období ďalšieho vzplanutia bujarého nadšenia, ktoré vyvolala “generatívna umelá inteligencia” – chatboty, veľké jazykové modely (LLM) a iné exotické artefakty umožnené masívnym nasadením strojového učenia – ktoré priemysel v súčasnosti považuje za budúcnosť, na ktorú sa usilovne pripravuje.

Nedávno sa viac ako 27 000 ľudí – vrátane mnohých, ktorí sa vyznajú v tejto technológii – tak znepokojilo nad prebiehajúcim gadarským zhonom smerom k strojovo riadenej dystopii, že vydali otvorený list, v ktorom žiadajú polročnú prestávku vo vývoji tejto technológie. “Pokročilá umelá inteligencia by mohla predstavovať hlbokú zmenu v dejinách života na Zemi,” uvádza sa v ňom, “a preto by sa mala plánovať a riadiť s primeranou starostlivosťou a prostriedkami.”

Bol to milý list, pripomínajúci moje ranné kázanie našim mačkám, že by mali byť láskavé k malým cicavcom a záhradným vtákom. Technologickí giganti, ktorí majú za sebou dlhú históriu ľahostajnosti k potrebám spoločnosti, vycítili novú príležitosť na ovládnutie sveta a nedovolia, aby im skupina nervóznych intelektuálov stála v ceste.

Preto bol Hintonov zásah taký významný. Je to totiž človek, ktorého výskum odomkol technológiu, ktorá sa teraz v dobrom i zlom uvoľnila vo svete. A to je dosť presvedčivý dôvod, prečo si sadnúť a venovať pozornosť.

Je to skutočne pozoruhodná osobnosť. Ak existuje niečo ako intelektuálny rodokmeň, tak Hinton je čistokrvný.

Jeho otec, entomológ, bol členom Kráľovskej spoločnosti. Jeho prapradedom bol George Boole, matematik z 19. storočia, ktorý vynašiel logiku, ktorá je základom všetkých digitálnych počítačov.

Jeho prastarým otcom bol Charles Howard Hinton, matematik a spisovateľ, ktorého myšlienka “štvrtého rozmeru” sa stala základom vedeckej fantastiky a objavila sa aj vo filmoch o superhrdinoch spoločnosti Marvel z roku 2010. A jeho sesternica, jadrová fyzička Joan Hintonová, bola jednou z mála žien, ktoré pracovali na vojnovom projekte Manhattan v Los Alamos, v rámci ktorého bola vyrobená prvá atómová bomba.

Hinton bol celý svoj dospelý život posadnutý umelou inteligenciou, najmä problémom, ako vytvoriť stroje, ktoré sa dokážu učiť. Prvým prístupom k tomuto problému bolo vytvorenie “perceptronu” – stroja, ktorý bol modelovaný podľa ľudského mozgu a založený na zjednodušenom modeli biologického neurónu. V roku 1958 profesor z Cornellovej univerzity Frank Rosenblatt takýto stroj skutočne zostrojil a neurónové siete boli istý čas horúcou témou v tejto oblasti.

V roku 1969 však bola publikovaná zdrvujúca kritika dvoch vedcov z MIT, Marvina Minského a Seymoura Paperta… a z neurónových sietí sa zrazu stala včerajšia správa.

Až na to, že jeden tvrdohlavý výskumník – Hinton – bol presvedčený, že sú kľúčom k strojovému učeniu. Ako píše technologický reportér denníka New York Times Cade Metz, “Hinton zostal jedným z mála, ktorí verili, že jedného dňa sa naplnia jeho sľuby a vzniknú stroje, ktoré budú schopné nielen rozpoznávať predmety, ale aj identifikovať hovorené slová, rozumieť prirodzenému jazyku, viesť rozhovor a možno dokonca riešiť problémy, ktoré by ľudia sami nedokázali vyriešiť”.

V roku 1986 spolu so svojimi dvoma kolegami z Torontskej univerzity uverejnil prelomovú prácu, v ktorej ukázal, že sa im podarilo vyriešiť problém, ako umožniť neurónovej sieti, aby sa pomocou matematickej techniky nazývanej “spätné šírenie” neustále zlepšovala. Hinton tento prístup šikovne pokrstil slovným spojením “hlboké učenie”, ktorého sa mohli chytiť novinári. (V reakcii na to ho označili za “krstného otca umelej inteligencie”, čo je hrubé aj podľa bulvárnych štandardov).

V roku 2012 spoločnosť Google zaplatila 44 miliónov dolárov za začínajúcu spoločnosť, ktorú založil so svojimi kolegami, a Hinton začal pracovať pre technologického giganta, pričom viedol a inšpiroval skupinu výskumníkov, ktorí vykonali väčšinu neskoršej prelomovej práce v oblasti strojového učenia v internej skupine Google Brain.

Počas svojho pôsobenia v Googli sa Hinton (aspoň na verejnosti) vyjadroval pomerne zdržanlivo o nebezpečenstve, že by nás táto technológia mohla priviesť do dystopickej budúcnosti. “Donedávna som si myslel, že táto existenčná kríza je ešte veľmi ďaleko,” povedal. Takže v skutočnosti neľutujem to, čo som urobil.”

Ale teraz, keď sa stal opäť takpovediac slobodným človekom, má zjavne väčšie obavy. V rozhovore z minulého týždňa začal vysvetľovať prečo. Jadrom jeho obáv bola skutočnosť, že nové stroje sa učia oveľa lepšie – a rýchlejšie – ako ľudia. “Spätné šírenie môže byť oveľa lepší algoritmus učenia, než aký máme my. To je desivé… Máme digitálne počítače, ktoré sa dokážu naučiť viac vecí rýchlejšie a môžu sa to okamžite naučiť navzájom. Je to, ako keby ľudia v miestnosti mohli okamžite preniesť do mojej hlavy to, čo majú vo svojej.”

Ešte zaujímavejší je však náznak, že to, čo ho skutočne znepokojuje, je skutočnosť, že táto výkonná technológia je úplne v rukách niekoľkých obrovských korporácií.

Až do minulého roka Hinton povedal Metzovi, novinárovi z Timesov, ktorý ho vyprofiloval, že “Google sa správal ako správny správca tejto technológie a dával pozor, aby neuvoľnil niečo, čo by mohlo spôsobiť škodu.

“Teraz však, keď Microsoft rozšíril svoj vyhľadávač Bing o chatbota – čo je výzvou pre hlavný predmet podnikania spoločnosti Google -, sa Google predháňa v nasadzovaní rovnakého druhu technológie. Technologickí giganti sa dostali do konkurenčného boja, ktorý možno nebude možné zastaviť.”

Má pravdu. Pohybujeme sa na neprebádanom území.

No, nie úplne nezmapované. Keď som v pondelok čítal o Hintonovom kroku, okamžite mi prišiel na um príbeh, ktorý Richard Rhodes rozpráva vo svojej monumentálnej histórii The Making of the Atomic Bomb. Dňa 12. septembra 1933 čakal veľký maďarský teoretický fyzik Leo Szilard na križovatke pri Britskom múzeu, aby prešiel cez cestu. Práve čítal správu o prejave Ernesta Rutherforda z predchádzajúceho dňa, v ktorom tento veľký fyzik povedal, že každý, kto “hľadá zdroj energie v premene atómu, hovorí bludy”.

Szilardovi zrazu napadla myšlienka jadrovej reťazovej reakcie a uvedomil si, že Rutherford sa mýlil. “Keď prechádzal cez ulicu,” píše Rhodes, “čas sa pred ním roztvoril a on uvidel cestu do budúcnosti, smrť do sveta a všetky naše strasti, podobu vecí, ktoré prídu”.

Szilard bol spoluautorom (s Albertom Einsteinom) listu prezidentovi Rooseveltovi (o riziku, že Hitler môže zostrojiť atómovú bombu), ktorý viedol k projektu Manhattan a všetkému, čo nasledovalo.