Kedy nás umelá inteligencia dobehne?

Bratislava 23 . januára 2024 (HSP/Time/Foto: Pixabay)

Will Henshall, redaktor Time, sa snaží nájsť odpoveď na otázku, kedy nás môže umelá inteligencia prekonať? Podľa autora záleží na tom, koho sa opýtate

„Stroje budú do 20 rokov schopné vykonávať akúkoľvek prácu, ktorú môže vykonávať človek,“ napísal ešte v roku 1960 Herbert Simon vo svojej knihe Nová veda o rozhodovaní v oblasti riadenia. Autor získal Nobelovu cenu za ekonómiu a Turingovu cenu za počítačovú vedu.

História je plná búrlivých technologických predpovedí, ktoré sa nenaplnili. V oblasti umelej inteligencie sa najodvážnejšie predpovede týkali príchodu systémov, ktoré dokážu vykonať akúkoľvek úlohu, ktorú dokáže vykonať človek, často označované ako umelá všeobecná inteligencia alebo AGI.

Advokátske skúšky

Takže keď Shane Legg, spoluzakladateľ spoločnosti Google DeepMind a hlavný vedec AGI, odhaduje, že existuje 50 % šanca, že AGI bude vyvinutá do roku 2028 – môže byť lákavé odpísať ho ako ďalšieho priekopníka AI, ktorý sa nepoučil z histórie.

Napriek tomu AI určite rýchlo napreduje. Jazykový model GPT-3.5, ktorý poháňa aplikáciu ChatGPT od OpenAI, bol vyvinutý v roku 2022 a na jednotnej advokátskej skúške (štandardizovanom teste, ktorý musia absolvovať budúci právnici). Dosiahol 213 bodov zo 400. To ho radí na spodných 10 %, medzi ľuďmi, ktorí testy urobia. GPT-4, vyvinutý len o niekoľko mesiacov neskôr, dosiahol 298 bodov, čím sa už zaradil medzi 10 % najlepších. Mnohí odborníci očakávajú, že tento pokrok bude pokračovať.

Leggove názory sú spoločné pre vedenie spoločností, ktoré v súčasnosti vytvárajú najvýkonnejšie systémy umelej inteligencie. Dario Amodei, spoluzakladateľ a generálny riaditeľ spoločnosti Anthropic, v auguste uviedol : „Umelá inteligencia “na úrovni človeka” by mohla byť vyvinutá do dvoch až troch rokov.“

Sam Altman, generálny riaditeľ spoločnosti OpenAI, sa domnieva : „AGI by mohla byť dosiahnutá niekedy v priebehu nasledujúcich štyroch alebo piatich rokov.“

V nedávnom prieskume však väčšina z 1 712 odborníkov na umelú inteligenciu, ktorí odpovedali na otázku, kedy bude podľa nich umelá inteligencia schopná vykonávať každú úlohu lepšie a lacnejšie ako ľudskí pracovníci, bola menej optimistická..

V stávke na určenie toho, kto má pravdu, je veľa. Legg, podobne ako mnohí ďalší priekopníci umelej inteligencie, varoval, že výkonné budúce systémy umelej inteligencie by mohli spôsobiť vyhynutie ľudí. A dokonca aj tí, ktorých menej znepokojujú terminátorské scenáre, niektorí varujú, že systém umelej inteligencie, ktorý by mohol nahradiť človeka pri akejkoľvek úlohe, by mohol úplne nahradiť ľudskú prácu.

Hypotézy stupňovania

Mnohí z tých, ktorí pracujú v spoločnostiach vytvárajúcich najväčšie a najvýkonnejšie modely AI, sú presvedčení, že príchod AGI je neodvratný. Sú stúpencami teórie známej ako hypotéza stupňovania alebo škálovania. To je myšlienka, že aj keď je na tejto ceste potrebných niekoľko postupných technických pokrokov, pokračovanie v trénovaní modelov AI s použitím stále väčšieho množstva výpočtového výkonu a údajov nevyhnutne povedie k AGI.

Existuje niekoľko dôkazov, ktoré túto teóriu potvrdzujú. Výskumníci pozorovali veľmi úhľadné a predvídateľné vzťahy medzi tým, koľko výpočtového výkonu, známeho aj ako “compute”, sa používa na trénovanie modelu AI, a tým, ako dobre vykonáva danú úlohu.

V prípade veľkých jazykových modelov (LLM) – systémov AI, ktoré poháňajú chatboty, ako je ChatGPT – zákony stupňovania predpovedajú, ako dobre dokáže model predpovedať chýbajúce slovo vo vete. Generálny riaditeľ OpenAI Sam Altman nedávno pre TIME povedal : „V roku 2019 som si uvedomil, že AGI môže prísť oveľa skôr, ako si väčšina ľudí myslí. Po tom, čo výskumníci OpenAI objavili zákony stupňovania.“

Prvé predpovede

Ešte pred pozorovaním zákonov stupňovania výskumníci dlho chápali, že tréning systému AI pomocou väčšieho množstva výpočtovej techniky ho robí schopnejším. Množstvo výpočtovej techniky, ktorá sa používa na trénovanie modelov AI, sa za posledných 70 rokov pomerne predvídateľne zvyšovalo, pretože náklady klesali.

Prvé predpovede založené na očakávanom raste výpočtovej kapacity používali odborníci na predvídanie toho, kedy sa umelá inteligencia môže vyrovnať ľuďom (a potom ich prípadne prekonať).

V roku 1997 počítačový vedec Hans Moravec tvrdil, že lacný dostupný hardvér sa v roku 2020 vyrovná z hľadiska výpočtového výkonu ľudskému mozgu. Polovodičový čip Nvidia A100, ktorý sa bežne používa na trénovanie umelej inteligencie, stojí približne 10 000 USD a dokáže vykonať približne 20 biliónov FLOPS. Čipy vyvinuté neskôr v tomto desaťročí budú mať ešte vyšší výkon. Odhady objemu výpočtového výkonu, ktorý využíva ľudský mozog, sa však značne líšia – od približne jedného bilióna operácií s pohyblivou rádovou čiarkou za sekundu (FLOPS) až po viac ako jeden kvintilión FLOPS. Takže je ťažké vyhodnotiť Moravcovu predpoveď. Okrem toho si tréning moderných systémov umelej inteligencie vyžaduje oveľa viac výpočtovej kapacity ako ich spustenie, čo Moravcova predpoveď nezohľadňuje.

Nedávno výskumníci z neziskovej organizácie Epoch vytvorili sofistikovanejší model založený na výpočtoch. Namiesto odhadu, kedy budú modely umelej inteligencie trénované s množstvom výpočtovej kapacity podobnej ľudskému mozgu, prístup Epoch priamo využíva zákony stupňovania a vychádza zo zjednodušujúceho predpokladu. Napríklad systém AI, ktorý dokáže dokonale reprodukovať knihu, môže nahradiť autorov. Systém AI, ktorý dokáže bezchybne reprodukovať vedecké práce, môže nahradiť vedcov.

Bude AGI myslieť ako človek ?

Niektorí by mohli namietať, že len preto, že systémy AI dokážu vytvárať výstupy podobné ľudským, nemusí to nevyhnutne znamenať, že budú myslieť ako človek.

Koniec koncov, Russell Crowe hrá nositeľa Nobelovej ceny za matematiku Johna Nasha vo filme Krásna myseľ z roku 2001, ale nikto nebude tvrdiť, že čím lepší je jeho herecký výkon, tým pôsobivejšie musia byť jeho matematické schopnosti. Výskumníci z Epochy tvrdia, že táto analógia sa opiera o chybné chápanie fungovania jazykových modelov. Keď sa rozšíria, LLM získajú schopnosť uvažovať ako ľudia, a nie len povrchne napodobňovať ľudské správanie. Niektorí výskumníci však tvrdia, že nie je jasné, či súčasné modely umelej inteligencie v skutočnosti uvažujú.

„Prístup Epochy je jedným zo spôsobov, ako kvantitatívne modelovať hypotézu stupňovania,“hovorí Tamay Besiroglu, zástupca riaditeľa Epochy a poznamenáva : „Výskumníci z Epochy sa prikláňajú k názoru, že UI bude napredovať menej rýchlo, ako naznačuje model.“

Model odhaduje 10 % šancu, že sa transformačná AI ( definovaná ako “AI, ktorá by v prípade širokého nasadenia urýchlila zmenu porovnateľnú s priemyselnou revolúciou”) vyvinie do roku 2025, a 50 % šancu, že sa vyvinie do roku 2033.

„Rozdiel medzi prognózou modelu a prognózami ľudí ako Legg je pravdepodobne spôsobený tým, že transformatívnu AI je ťažšie dosiahnuť ako AGI,“ hovorí Besiroglu.

Opýtame sa odborníkov

Hoci mnohí ľudia na vedúcich pozíciách v najvýznamnejších spoločnostiach zaoberajúcich sa umelou inteligenciou veria, že súčasná cesta pokroku v oblasti umelej inteligencie čoskoro prinesie AGI, sú to ľudia, ktorí sa vymykajú davu.

V snahe systematickejšie posúdiť, čo si odborníci myslia o budúcnosti umelej inteligencie, AI Impacts, projekt bezpečnosti AI neziskovej organizácie Machine Intelligence Research Institute, na jeseň 2023 uskutočnil prieskum medzi 2 778 odborníkmi, z ktorých všetci za posledný rok publikovali recenzovaný výskum v prestížnych časopisoch a na konferenciách o umelej inteligencii.

Odborníkov sa okrem iného pýtali, kedy si myslia, že “strojová inteligencia vysokej úrovne”, definovaná ako stroje, ktoré by dokázali “vykonať každú úlohu lepšie a lacnejšie ako ľudskí pracovníci” bez pomoci, bude realizovateľná. Hoci sa jednotlivé predpovede veľmi líšili, priemer predpovedí naznačuje 50 % šancu, že sa tak stane do roku 2047, a 10 % šancu do roku 2027.

Zdá sa, že podobne ako mnohých ľudí, aj odborníkov prekvapil rýchly pokrok v oblasti umelej inteligencie za posledný rok a podľa toho aktualizovali svoje prognózy – keď AI Impacts uskutočnila rovnaký prieskum v roku 2022, výskumníci odhadovali 50 % šancu, že strojová inteligencia vysokej úrovne príde do roku 2060, a 10 % šancu do roku 2029.

Výskumníkov sa tiež pýtali, kedy by podľa nich mohli stroje vykonávať rôzne jednotlivé úlohy. Odhadli 50 % šancu, že umelá inteligencia by mohla do roku 2028 skomponovať hit z Top 40 a do roku 2029 napísať knihu, ktorá by sa dostala na zoznam bestsellerov New York Times.

Superprognózy sú skeptické

Napriek tomu existuje množstvo dôkazov, ktoré naznačujú, že experti nie sú dobrými v prognóze. V rokoch 1984 až 2003 zozbieral sociológ Philip Tetlock 82 361 prognóz od 284 expertov, pričom im kládol otázky ako napr: Bude sovietsky vodca Michail Gorbačov zosadený počas štátneho prevratu? Prežije Kanada ako politická únia? Tetlock zistil, že predpovede expertov často neboli lepšie ako náhoda a že čím slávnejší bol expert, tým menej presné boli jeho predpovede.

Potom sa Tetlock a jeho spolupracovníci rozhodli zistiť, či niekto dokáže robiť presné predpovede. V súťaži v predpovedaní, ktorú v roku 2010 vyhlásila americká organizácia Intelligence Advanced Research Projects Activity, Tetlockov tím Good Judgement Project (GJP) dominoval nad ostatnými a vypracoval predpovede, ktoré boli údajne o 30 % presnejšie ako predpovede spravodajských analytikov, ktorí mali prístup k utajovaným informáciám. V rámci súťaže GJP identifikoval “superprognózovačov” – osoby, ktoré neustále vytvárali nadpriemerne presné prognózy.

Hoci sa však ukázalo, že superprognostici sú pomerne presní pri predpovediach s časovým horizontom do dvoch rokov, nie je jasné, či sú podobne presní aj pri dlhodobejších otázkach, napríklad kedy by mohla byť vyvinutá AGI, hovorí Ezra Karger, ekonóm z Federálnej rezervnej banky v Chicagu a riaditeľ výskumu v Tetlockovom inštitúte pre výskum prognóz.

Kedy podľa superprognostikov príde AGI? V rámci prognostického turnaja, ktorý v období od júna do októbra 2022 uskutočnil Forecasting Research Institute, bolo 31 superprognostikov požiadaných o informáciu, kedy podľa nich Nick Bostrom – kontroverzný filozof a autor zásadného pojednania o existenčnom riziku umelej inteligencie Superinteligencia – potvrdí existenciu AGI. Medián superprognostikov si myslel, že existuje 1 % šanca, že sa tak stane do roku 2030, 21 % šanca do roku 2050 a 75 % šanca do roku 2100.

Kto má pravdu?

Všetky tri prístupy k predpovedaniu, kedy by mohla AGI vzniknúť – model hypotézy škálovania Epocha a prieskumy expertov a superprognostikov – majú jedno spoločné: je tu veľká neistota. Najmä experti sú veľmi rozptýlení, pričom 10 % si myslí, že je rovnako pravdepodobné, že AGI bude vyvinutá do roku 2030, a 18 % si myslí, že AGI sa nedostaví skôr ako po roku 2100.

Napriek tomu v priemere jednotlivé prístupy poskytujú rôzne odpovede. Model spoločnosti Epoch odhaduje 50 % pravdepodobnosť, že transformatívna AI príde do roku 2033, medián expertov odhaduje 50 % pravdepodobnosť AGI pred rokom 2048 a superprognostici sú oveľa ďalej, na úrovni roku 2070.

„Existuje mnoho sporných bodov, ktoré sa premietajú do diskusií o tom, kedy by AGI mohla vzniknúť,“hovorí Katja Graceová, ktorá ako vedúca výskumníčka AI Impacts zorganizovala prieskum medzi odborníkmi.

Budú súčasné metódy budovania systémov umelej inteligencie, posilnené väčším počtom počítačov a zásobované väčším množstvom údajov s niekoľkými algoritmickými úpravami, postačujúce? Odpoveď na túto otázku čiastočne závisí od toho, aké pôsobivé sú podľa vás nedávno vyvinuté systémy AI. Je GPT-4 podľa slov výskumníkov zo spoločnosti Microsoft iskrou AGI? Alebo je to, slovami filozofa Huberta Dreyfusa : “ako tvrdiť, že prvá opica, ktorá vyliezla na strom, urobila pokrok smerom k pristátiu na Mesiaci”?

„Aj keby súčasné metódy stačili na dosiahnutie cieľa vývoja AGI, nie je jasné, ako ďaleko je cieľová čiara,“ hovorí Graceová. Je tiež možné, že pokroku na ceste môže niečo brániť, napríklad nedostatok tréningových údajov.

„Napokon, v pozadí týchto technickejších debát sa črtajú zásadnejšie presvedčenia ľudí o tom, ako veľmi a ako rýchlo sa svet pravdepodobne zmení,“ hovorí Graceová.

Tí, ktorí pracujú v oblasti umelej inteligencie, sa často zaoberajú technológiami a sú otvorení myšlienke, že ich výtvory by mohli dramaticky zmeniť svet, zatiaľ čo väčšina ľudí to odmieta ako nereálne.