Veľký jazykový model (LLM) ChatGPT od OpenAI, vydaný v novembri 2022, a jeho nástupca GPT-4, vydaný v marci 2023, vzbudili veľkú pozornosť širokej verejnosti a vyvolali prísľuby aj obavy.

Vzhľadom na tento vývoj Inštitút budúcnosti života 28. marca zverejnil otvorený list s výzvou “Pozastaviť [gigantický] experiment s umelou inteligenciou”. Autori listu vyzývajú na moratórium na tréning veľkých jazykových modelov na 6 mesiacov, pričom nastoľujú scenár “superinteligencie” vedúcej k vyhynutiu ľudstva – známy aj ako existenčné riziko alebo riziko X. Podľa spoluzakladateľa inštitútu Future of Life Institute Janna Tallina predstavuje darebácka umelá inteligencia väčšie nebezpečenstvo ako klimatická kríza.

V liste sa uvádza: “Mali by sme dovoliť strojom zaplavovať naše informačné kanály propagandou a nepravdou? Mali by sme automatizovať všetky pracovné miesta vrátane tých, ktoré nás napĺňajú? Mali by sme vyvinúť neľudské mozgy, ktoré by nás nakoniec mohli prekonať, prechytračiť, zastarať a nahradiť? Mali by sme riskovať stratu kontroly nad našou civilizáciou?”

Na list sa znieslo veľa kritiky a nesúhlasu, najmä zo strany Distributed AI Research Institute (DAIR), ktorý založil Timnit Gebru. Dôvodom je, že rámcovanie príbehu v liste má ľudí vystrašiť a zároveň propagovať “príliš silné nástroje”, ktoré treba skrotiť, čo oboje podnecuje humbuk okolo AI.

Ideológia, ktorá je základom obáv vyjadrených inštitútom Future of Life, je takzvaný dlhodobý terorizmus. Jej cieľom je maximalizovať blahobyt ľudí v nasledujúcich desaťročiach, ak nie storočiach alebo tisícročiach, na úkor súčasnosti. Známymi zástancami longtermizmu sú v súčasnosti znevažovaný generálny riaditeľ FTX Sam Bankman-Fried, generálny riaditeľ Twitteru a SpaceX Elon Musk, podnikateľ Peter Thiel a transhumanistický filozof Nick Bostrom, ktorý poznamenáva: “Očakávaná hodnota zníženia existenčného rizika len o jednu milióntinu percentuálneho bodu je najmenej desaťnásobkom hodnoty miliardy ľudských životov”.

Rasistické pozadie longtermizmu má podobu toho, čo Abeba Birhane nazýva “digitálnym kolonializmom”, ktorý opakuje stáročia útlaku v prospech vízie elity technologických miliardárov o “dobre pre ľudstvo”, ktorá zahŕňa kolonizáciu vesmíru alebo prekonanie našej smrteľnosti.

Tento techno-utopizmus, pre ktorý je “bezpečná umelá inteligencia” nevyhnutná pre tak vytúženú singularitu, však odvádza pozornosť od naliehavých súčasných problémov.

Skryté náklady na “superinteligenciu”

Hoci sa tieto systémy zdajú byť “autonómne” a “inteligentné”, stále sa spoliehajú na rozsiahlu ľudskú prácu. Ako ukazuje Kate Crawfordová, začína to už pri ťažbe nerastných surovín a výrobe hardvéru. Ďalej je potrebné údaje, ktoré sa často získavajú bez akéhokoľvek súhlasu, označiť, aby získali zmysel, a označiť urážlivý, sexuálny alebo násilný obsah.

Táto vykorisťovateľská, psychicky zaťažujúca a slabo platená práca prebieha neviditeľne v pozadí. Namiesto “automatizácie všetkých pracovných miest” je teda výsledkom prehlbovanie sociálnych nerovností a centralizácie moci.

Ďalším problémom myšlienky “superinteligencie” je, že vyvoláva falošný dojem, že LLM sú entity podobné zmyslom, ktoré rozumejú a možno majú aj city alebo empatiu. V dôsledku toho majú ľudia tendenciu príliš sa spoliehať na výstupy LLM, ako v tragickom prípade, ktorý dohnal muža k samovražde po niekoľkotýždňovej interakcii s chatbotom. Iný lekársky chatbot, ktorý využíva GPT-3, tiež navrhoval spáchať samovraždu alebo začať recyklovať, aby prekonal smútok. Druhá možnosť znie nezmyselne. LLM však iba spájajú slová, ktoré znejú vierohodne, čo môže viesť k absurdným, nepresným, škodlivým a zavádzajúcim výstupom, ako je napríklad článok, v ktorom sa spomínajú výhody jedenia rozdrveného skla.

Vzhľadom na to môže vzniknúť otázka, čo ospravedlňuje používanie GPT. Aký problém sa GPT snažia vyriešiť? Takisto zvážte, že spotrebúvajú energiu “do očí bijúcim” tempom – odhaduje sa, že len tréning jedného modelu, ako je GPT-3, spotrebuje toľko elektrickej energie ako 120 amerických domácností ročne a vyprodukuje emisie oxidu uhličitého zodpovedajúce emisiám 110 automobilov ročne.

Potreba transparentnosti a zodpovednosti

Základná myšlienka zastaviť ďalšie vzdelávanie LLM v oblasti riadenia sa teda zdá byť priaznivá. V otvorenom liste sa však neuvádza, koho by sa táto pauza týkala a ako ju presadiť alebo zabezpečiť. Je naivné myslieť si, že každá spoločnosť, univerzita, výskumný ústav alebo každý jednotlivec, ktorý využíva rôzne alternatívy otvoreného softvéru, jednoducho prestane.

Súčasne budú v súčasnosti fungujúce LLM so svojimi dôsledkami pretrvávať. A predsa spoločnosť Microsoft, ktorá do OpenAI investovala niekoľko miliárd, a generálny riaditeľ Twitteru Elon Musk, ktorý daroval inštitútu Future of Life 10 miliónov dolárov a je členom jeho predstavenstva, vyhodili svoje etické tímy.

Ako prvú reakciu Taliansko pred niekoľkými dňami zakázalo ChatGPT a ďalšie európske krajiny zvažujú, že urobia to isté. Zatiaľ však nie je jasné, ako tento zákaz ovplyvní ďalšie aplikácie, ktoré využívajú LLM, ako napríklad ChatGPT alebo GPT-4.

Vzhľadom na rôzne následné účinky neurčité a apokalyptické vedecko-fantastické scenáre, ktoré siahajú ďaleko do budúcnosti, ako ich vykresľuje inštitút Future of Life, nevedú ku konkrétnym politickým opatreniam a reguláciám, ktoré sú v súčasnosti potrebné – najmä nie v navrhovanom časovom horizonte šiestich mesiacov.

Ak sa politická agenda bude riadiť myšlienkou superinteligencie ovládajúcej ľudstvo, hrozí skôr nebezpečenstvo, že sa budú ignorovať súčasné riziká, ako aj súčasné riešenia. A hoci LLM nepredstavujú existenčné riziko pre “našu” civilizáciu, predstavujú ho pre jej veľkú, najmä už marginalizovanú časť.

Aj keď chceme udržať myšlienku “superinteligencie”, nemala by byť dominantným príbehom, na ktorý sa teraz sústredíme. Pretože ak tieto modely vykreslíte ako príliš silné a pripíšete im nejakú agentúru, presuniete zodpovednosť zo spoločností, ktoré tieto systémy vyvíjajú.

Na to, aby sa spoločnosti mohli zodpovedať, je potrebná transparentnosť o tom, ako boli tieto LLM vyvinuté a s akými údajmi boli vyškolené. Namiesto toho však OpenAI, ktorá je v rozpore so svojím názvom teraz uzavretá, vo svojej takzvanej “technickej správe” o GPT-4 uvádza, že “táto správa neobsahuje žiadne ďalšie podrobnosti o architektúre (vrátane veľkosti modelu), hardvéri, tréningovom výpočte, konštrukcii súboru údajov, metóde tréningu a podobne”.

Toto utajenie bráni demokratickému rozhodovaniu, a teda aj regulácii podmienok, za ktorých by sa mali LLM vyvíjať a nasadzovať. Neexistuje nič také ako “jediná dobrá AI”; preto by sme nemali zverovať pomerne malej a privilegovanej skupine ľudí, ktorí sa domnievajú, že “superinteligencia” je nevyhnutná – čo nie je pravda -, ako vytvoriť “bezpečnú” AI.

Namiesto toho musíme začať tým, že do rozhovoru zapojíme rôznych ľudí, najmä poškodených, aby sme zmenili naratív a mocenské vzťahy.