Krátkodobé prepustenie Sama Altmana, výkonného riaditeľa pravdepodobne najvýznamnejšej spoločnosti v oblasti umelej inteligencie na svete, bolo senzačné. Keď ho členovia správnej rady OpenAI odvolali, niektorí z nich sa domnievali, že ak by organizácia pokračovala pod Altmanovým vedením, nemohlo by byť v stávke viac – budúcnosť ľudstva. Predstavte si Nástupníctvo s pridanou atmosférou apokalypsy. Začiatkom novembra 2023, po troch týždňoch tajných telefonátov a rôznych stupňov paranoje, sa správna rada OpenAI zhodla: Altman musí odísť.
Dráma sa tým však neskončila. Po jeho odvolaní podali výpoveď Altmanovi najvernejší zamestnanci a ďalší podpísali otvorený list, v ktorom žiadali jeho opätovné dosadenie. Investori, vrátane najväčšej spoločnosti Microsoft, sa zľakli. Bez talentu alebo financovania by spoločnosť OpenAI – ktorá vyvinula ChatGPT a mala miliardovú hodnotu – ani neexistovala. Niektorí, ktorí sa podieľali na rozhodnutí prepustiť Altmana, zmenili stranu a v priebehu niekoľkých dní bol znovu prijatý do funkcie. Je teraz nedotknuteľný? „Určite si upevnil svoju moc,“ hovorí Karen Hao, technologická novinárka, ktorej nová kniha Empire of AI (Impérium umelej inteligencie) podrobne opisuje túto ságu v napínavej a pútavej histórii OpenAI. Súčasná správna rada je „oveľa viac spriaznená s jeho záujmami,“ hovorí.
Haovej kniha je strhujúce čítanie (podtitul: „Vnútri bezohľadných pretekov o úplnú nadvládu“), v ktorom vystupujú nepredstaviteľne bohatí ľudia, ako aj ľudia v rozvojových krajinách, ktorí dostávajú mizerný plat za to, aby odstraňovali hrozný sexuálny a násilný obsah v internetových údajoch, na ktorých je umelá inteligencia trénovaná. Postavy, ktoré tvoria OpenAI, majú brilantnú myseľ a často excentrické správanie. Elon Musk je napokon jedným z jej zakladateľov. Ďalší zakladateľ a jej hlavný vedec Ilja Sutskever, ktorý sa mal podieľať na neúspešnom pokuse o odstránenie Altmana, dramaticky ilustroval svoje obavy z „nezosúladenej“ umelej inteligencie, ktorú vytvorili, tým, že v roku 2023 spálil drevenú podobizeň postavenú tak, aby ju predstavovala, zatiaľ čo jeho starší kolegovia stáli okolo ohniska v luxusnom rezorte a mali na sebe župany.
V centre všetkého je Altman, charizmatický spoluzakladateľ a výkonný riaditeľ spoločnosti OpenAI, ktorý je, v závislosti od toho, ako ho vnímate, zloduchom, ktorý postavil ľudstvo na cestu k masovému vyhynutiu, alebo vizionárskym utopistom, ktorý nám prinesie lieky na choroby a revolúciu v spôsobe práce. Zdá sa, že 40-ročný Altman za necelé dva roky, ktoré Hao potrebovala na napísanie svojej knihy, prekonal svojich odporcov a oznámil plány na získanie 7 miliárd dolárov.
Karen Hao opisuje Altmana ako „talent na získavanie finančných prostriedkov, ktorý sa objaví raz za generáciu“ a tvrdí, že šance OpenAI na víťazstvo v pretekoch v zbrojení AI závisia od získania obrovských súm. „Presviedča ľudí, aby mu prenechali moc, ale neuchopuje ju. Dokáže to preto, lebo je neuveriteľne dobrý v chápaní toho, čo ľudia chcú a čo ich motivuje. Pochopila som, že… keď sa s niekým rozpráva, to, čo vychádza z jeho úst, nemusí nevyhnutne súvisieť ani tak s jeho vlastným presvedčením, ako s tým, čo si myslí, že ten druhý človek potrebuje počuť.“ Hovorí, že práve preto dokázal najať toľko talentovaných ľudí a získať toľko investícií (a tiež to, čo znervózňovalo niektorých členov jeho pôvodnej správnej rady a vedúcich zamestnancov). „Aj preto sa mu podarilo niečo, čo by väčšina ľudí nedokázala, a to presvedčiť verejnosť, aby uverila predpokladu, že robí niečo hlboko prospešné pre spoločnosť, a to dostatočne dlho na to, aby mu to prešlo.“
Karen Hao poukazuje na to, že v rámci OpenAI „odišiel každý človek, ktorý s ním kedy polemizoval o jeho vízii vývoja AI – Musk odišiel, Dario Amodei odišiel, Sutskever odišiel (všetci traja boli prvými lídrami OpenAI) a celý rad ďalších ľudí. V konečnom dôsledku mali odlišnú predstavu o tom, ako by sa mala AI vyvíjať. Vyzvali Altmana a Altman vyhral.“
V roku 2021 Altmanova sestra Annie na vtedajšom Twitteri zverejnila šokujúce obvinenie, že ju v detstve sexuálne zneužíval (je o deväť rokov starší). V januári tohto roku na neho podala žalobu. Vo vyhlásení, ktoré zverejnili Altman, jeho matka a jeho dvaja bratia, označili obvinenia za „absolútne nepravdivé“ (jeho otec zomrel v roku 2018). Karen Hao mala s Annie niekoľko rozhovorov, v ktorých dávala dokopy, ako sa jej život odvíjal. Bystré dieťa, ktoré plánovalo ísť študovať medicínu, trpelo zlým duševným zdravím a potom sa u nej v mladosti objavil rad chronických fyzických zdravotných problémov. Po otcovej smrti sa jej zdravotný stav ešte viac zhoršil, a keď jej rodina začala obmedzovať finančnú pomoc, odcudzila sa im. Annie, hovorí Karen Hao „je dokonalou prípadovou štúdiou toho, prečo musíme byť skeptickí voči tomu, čo Sam Altman hovorí o výhodách umelej inteligencie.“ Altman tvrdí, že umelá inteligencia vyrieši chudobu a zlepší zdravotnú starostlivosť, ale Annie, ktorá žije v chudobe a má zdravotné problémy, sa nedočkala žiadnych výhod, hovorí Karen Hao. „Je predstaviteľkou viacerých ľudí a ich života vo svete než on sám a zhodou okolností je touto dokonalou prípadovou štúdiou aj jeho sestra.“
Napriek tomu, že spoločnosť OpenAI súhlasila s rozhovorom s Karen Hao pre jej knihu, keď zistila, že je v kontakte s Annie, od rozhovoru odstúpila. „Mala by to byť rodinná záležitosť,“ hovorí Karen Hao. „Prečo z toho teraz zástupca spoločnosti robí svoju hlavnú tému? To mi názorne ukázalo, aký dôležitý je pre spoločnosť Sam, ten človek.“ Zdôraznilo jej to, hovorí, že spoločnosti zo Silicon Valley, najmä keď čelia kritike „môžu využiť všetku svoju silu na potlačenie tohto nesúhlasu“.
Karen Hao vyštudovala strojárstvo na univerzite a po skončení štúdia sa presťahovala do San Francisca, kde pracovala pre startup. „Myslela som si, že to bude moja kariéra, že budem v Silicon Valley a absolvujem celú túto cestu,“ hovorí Hao. „Počas prvého roka som si uvedomila, že stimuly v Silicon Valley pre rozvoj technológií nie sú v súlade s verejným záujmom.“
Preto sa začala venovať žurnalistike a pri písaní pre časopis MIT Technology Review ju fascinovala umelá inteligencia. „Všetok svoj čas som trávila predovšetkým rozhovormi s výskumníkmi v spoločnostiach, ktoré pôsobili v akademickom prostredí, kde nemali žiadne komerčné ciele. Výskum bol veľmi rôznorodý.“ Prebiehali tu aj zdravé diskusie. Bolo to v roku 2016, v čase, keď Donald Trump vyhral svoje prvé voľby, a na technologický priemysel sa znieslo veľa kritiky. „Vznikal výskum v oblasti umelej inteligencie a jej vplyvu na spoločnosť. Aké sú škody? Aké sú predsudky obsiahnuté v modeloch, ktoré vedú k potenciálnej rozsiahlej diskriminácii a problémom s občianskymi právami? Takto nejako vyzeral svet a diskurz o umelej inteligencii pred tým, ako ho vykoľajil ChatGPT.“
V priebehu niekoľkých dní od vydania aplikácie ChatGPT koncom roka 2022 ju používal milión používateľov. O niekoľko mesiacov mala 100 miliónov používateľov a stala sa najrýchlejšie rastúcou spotrebiteľskou aplikáciou v histórii. Karen Hao mala pocit, že jej oslnivý úspech zatienil tento druh diskusií, aspoň v hlavnom prúde. „Ľudia len kupovali to, čo im OpenAI a iné spoločnosti podsúvali z hľadiska naratívov, ako napríklad: toto vylieči rakovinu, toto vyrieši klimatickú krízu, všetky tieto utopické veci, o ktorých sa vám ani nesníva.“ Začala pracovať na tom, čo sa malo stať jej knihou, pričom sa zaoberala históriou OpenAI a jej konkurentov. „Až keď máte tento kontext, môžete začať chápať, že to, čo tieto spoločnosti hovoria, by ste nemali brať ako hotovú pravdu.“
Predtým, ako Karen Hao začala podrobnejšie sledovať OpenAI, mala podľa svojich slov „celkom pozitívny dojem. Bola som na nich zvedavá, neboli to firmy, ale neziskové organizácie, a hovorili o tom, že budú transparentní, otvoria svoj výskum a zamerajú sa na prospech spoločnosti.“ Potom, v roku 2019, sa veci začali meniť; OpenAI vyvinula štruktúru „obmedzeného zisku“ (investori by mali svoje výnosy obmedzené, na veľmi štedrý 100-násobok), Altman sa stal generálnym riaditeľom, podpísali miliardovú zmluvu so spoločnosťou Microsoft a začali utajovať svoj výskum. „Vyzeralo to ako dosť významný posun,“ hovorí Hao.
„To je jeden z dôvodov, prečo OpenAI prežíva takú drámu, ale je to aj symbolom vývoja umelej inteligencie – je do veľkej miery riadený ideológiou,“ hovorí. „Dochádza tu k stretu ega a ideológií, ktoré sa snažia uchopiť smer.“ V rámci OpenAI, či už ide o boomerov (tí, ktorí sa chcú čo najrýchlejšie rozšíriť) alebo doomerov (tých, ktorí veria, že AI je hrozbou pre ľudstvo), bol cieľ rovnaký: najprv vyvinúť, a teda ovládať umelú inteligenciu.
Myslí si Karen Hao, že umelá inteligencia predstavuje existenčnú hrozbu? „Najväčšou a najnaliehavejšou hrozbou je, že umelá inteligencia úplne zničí demokraciu, a ak to pochopíte, potom by sme mali prestať vyvíjať túto technológiu tak, ako ju vyvíjajú tieto spoločnosti.“ Nalievanie zdrojov „má úplne iný rozsah ako predchádzajúce technologické spoločnosti… Snažia sa znova a znova ospravedlniť získavanie najväčších súkromných investícií (OpenAI práve získala 40 miliárd dolárov v poslednom kole)“. Takáto koncentrácia bohatstva je podľa nej „sama o sebe hrozbou. Už teraz vidíme, ako sa to prejavuje v prípade vlády USA, keď ju preberajú nevolení technologickí miliardári.“
Myslí si, že apokalyptické vízie superinteligentnej umelej inteligencie, ktorá sa obráti proti ľudstvu, odvádzajú pozornosť. „V konečnom dôsledku spôsobia katastrofu ľudia, nie darebácka umelá inteligencia, a my musíme sledovať, čo ľudia robia.“ Stretla sa však s ľuďmi, ktorí úprimne veria, že AI zničí ľudstvo. „Rozprávala som sa s ľuďmi, ktorých hlasy sa doslova triasli od strachu, to je miera, do akej tomu veria, a ak tomu naozaj veríte, je to desivé.“ Potom sú tu tí, ktorí používajú myšlienku, ako by sa AI mohla stať takou mocnou, ako „rétorický nástroj, aby mohli naďalej hovoriť: Preto my, dobrí ľudia, musíme pokračovať v kontrole technológie a nedopustiť, aby bola v rukách zlých ľudí.“ Ale pokiaľ Karen Hao vidí „nedostali sme demokratickejšie technológie, ale autoritárskejšie“.
Ani Hao nemá veľa pochopenia pre argument, že vývoj umelej inteligencie si vyžaduje obrovské investície. „Nemyslím si, že potrebuje takú úroveň investícií, ako tieto spoločnosti tvrdia,“ hovorí. „Už minuli stovky miliárd dolárov na vývoj technológie, ktorá ešte nedosiahla to, čo hovorili, že dosiahne,“ hovorí Hao. „A teraz od nás očakávajú, že minieme bilióny? V ktorom okamihu sa rozhodneme, že vlastne práve zlyhali?
„Keď som sa zaoberala umelou inteligenciou pred ChatGPT a širokou škálou výskumov, ktoré prebiehali, existovali také vzrušujúce nápady… ChatGPT vymazal predstavy ľudí o tom, čo by ešte mohlo byť možné.“ Generatívna umelá inteligencia prevzala moc,nielen v OpenAI, ale aj v iných technologických spoločnostiach, vrátane DeepMind spoločnosti Google, a to, hovorí Karen Hao, „narušilo prostredie výskumu, pretože talent ide tam, kde idú peniaze.“
Peniaze však neprúdia rovnako. Karen Hao robí rozhovory s ľuďmi pracujúcimi pre externé spoločnosti v Keni, Kolumbii a Čile, ktorí anotujú údaje, na ktorých sa trénuje generatívna umelá inteligencia, a za nízku mzdu a bez väčšieho ohľadu na svoje duševné zdravie vyraďujú škodlivý obsah. Umelú inteligenciu medzitým poháňajú obrovské dátové centrá, budovy plné počítačov, ktorých prevádzka si vyžaduje obrovské množstvo energie a ktorých chladiace systémy potrebujú obrovské množstvo vody. V blízkej budúcnosti vzniknú ešte väčšie dátové centrá známe ako „megakampusy“. Len jeden z nich by mohol spotrebovať viac energie ako tri mestá veľkosti San Francisca.
Predpokladom jej knihy je, že obri umelej inteligencie riadia impérium. História nám však ukazuje, že impériá môžu padnúť a padajú. Karen Hao vidí každý krok dodávateľského reťazca ako potenciálne miesto odporu. Umelci a spisovatelia sa napríklad bránia proti tomu, aby sa ich diela používali na trénovanie generatívnej umelej inteligencie. Presadzovanie zákonov o ochrane osobných údajov „sú tiež spôsoby, ako obmedziť impérium“, rovnako ako nútenie spoločností, aby boli transparentné, pokiaľ ide o ich vplyv na životné prostredie, od spotreby energie až po to, kde a ako sa ťažia nerasty potrebné na výrobu hardvéru. Technologické spoločnosti, hovorí Hao „chcú, aby sa ich nástroje zdali byť čarovné“, ale chcela by viac osvety, aby si ľudia uvedomili, že každý podnet umelej inteligencie spotrebúva zdroje a energiu. Dosiahnutie týchto tlakových bodov a ďalších prostriedkov podľa nej znamená, že „môžeme pomaly prejsť späť k demokratickejšiemu modelu riadenia AI“.
Aj keď je presvedčivý, nejde len o Altmana, vládnuceho cisára umelej inteligencie. „Na jeho odstránenie bude teraz potrebné vynaložiť oveľa väčšie úsilie,“ hovorí, ale dodáva, príliš sa sústreďujeme na jednotlivca. Ak alebo keď sa Altman rozhodne odstúpiť, alebo bude úspešne zosadený, bude jeho nástupca iný? „OpenAI je v konečnom dôsledku produktom Silicon Valley.“ A každý, kto jedného dňa možno Altmana nahradí, hovorí Karen Hao s predtuchou, bude sledovať rovnaký cieľ: „Vybudovať a posilniť impérium.“
Prečítajte si tiež:
Môj profil 
Predplatné
.JPG)
