Generatívna umelá inteligencia, hrdé dieťa ľudských rúk, je pozoruhodnou imitáciou mysle samotného človeka. Predstavuje potenciálne novú éru vo výskume, ale nesie so sebou aj vysoké riziká.

Umelá inteligencia vystupuje ako spoluautor vedeckých prác – niekedy tajne. Píše texty do prezentácií, žiadostí o granty a vzdelávacích programov a píše počítačový kód. Dokonca sa zúčastňuje na rozhovoroch s vedcami a diskutuje s nimi o ich myšlienkach. Vymýšľa si odkazy, nahrádza fakty a vyvoláva nenávisť. Ale najúspešnejšia bola jej schopnosť zaujať ľudskú myseľ: bola poslušná, pútavá, zábavná, a dokonca aj desivá. ChatGPT bol tým, čím chceli jeho respondenti, aby bol – a niekedy aj opakom toho, čím chceli, aby bol.

Prečo zaradiť počítačový program do zoznamu osobností, ktoré budú určovať tvár vedy v roku 2023? ChatGPT nie je človek. Napriek tomu mal tento program za posledný rok v mnohých ohľadoch hlboký a rozsiahly vplyv na vedu.

Jedinou úlohou ChatGPT je hodnoverne viesť dialógy podľa vzorov, na ktorých bol vycvičený. Tým však spolu s ďalšími programami generatívnej umelej inteligencie mení spôsob práce niektorých vedcov a ich výskumné metódy. Rozkvet týchto technológií tiež spôsobil, že mnohé diskusie sa stali opäť aktuálnymi. Napríklad o tom, kde hľadať hranicu možností umelej inteligencie. Alebo o povahe ľudskej inteligencie a o tom, ako najlepšie regulovať interakciu medzi ňou a vedomím stroja. Aj preto sa v roku 2023 do prvej desiatky rebríčka Nature dostala aj entita, ktorá nie je človekom.

Niektorí vedci si už dlho uvedomujú potenciál, ktorý majú veľké jazykové modely (VJM). Ale pre mnohých bol práve príchod ChatGPT ako voľného partnera na rozhovor v novembri 2022 príležitosťou rýchlo spoznať schopnosti a premenlivosť tejto technológie. Program vytvorili výskumníci z OpenAI v kalifornskom San Franciscu; medzi nimi bol aj Ilya Sutskever, ktorého meno nájdete aj v desiatke najlepších v časopise Nature na rok 2023. Systém ChatGPT je vytvorený pomocou neurónovej siete so stovkami miliárd parametrov, ktorá bola vyškolená na cyklickom online korpuse kníh a dokumentov, ktorých hodnota sa odhaduje na desiatky miliónov dolárov. Okrem toho sa na úprave a vyhodnocovaní odpovedí bota podieľalo mnoho ďalších pracovníkov. To malo ešte väčší vplyv na jeho konečnú tvorbu. V roku 2023 OpenAI vylepšil základný VJM ChatGPT a prepojil ho s ďalšími programami, aby mohol prijímať a vytvárať obrázky, ako aj pracovať s matematickými a kódovacími programami. Ostatné spoločnosti v odvetví začali narýchlo vytvárať konkurenciu.

Pre niektorých výskumníkov sa tieto aplikácie už stali neoceniteľnými pomocníkmi pri ich laboratórnych činnostiach – pomáhajú im sumarizovať údaje alebo písať články, zlepšovať výkon softvéru a písať softvérový kód. ChatGPT a príbuzný softvér môžu pomôcť pri brainstormingu, zlepšiť algoritmy vedeckých vyhľadávačov a identifikovať medzery v bibliografiách, hovorí Marinka Zitnik. Tá vytvára umelú inteligenciu na použitie v lekárskom výskume na Harvard Medical School v Bostone. Modely vyškolené na vedeckých údajoch môžu prispieť k vývoju systémov umelej inteligencie, ktoré vedcom naznačia nové cesty a smery, ktorými sa majú pri výskume uberať. Zitnik dodáva: môžu byť schopné simulovať nové molekuly alebo správanie buniek.

Táto technológia je však aj nebezpečná. Automatizovaných partnerov môžu využívať aj podvodníci a plagiátori; ak sa to nekontroluje, môžu spôsobiť nenapraviteľné škody na všeobecnom súbore vedeckých poznatkov. Na internet už začali prenikať informácie generované umelou inteligenciou, ktoré by sa mohli považovať za tajné, a niektorí vedci sa priznali, že ChatGPT používajú na písanie článkov, pričom o tom mlčia.

Okrem toho, problémy s chybami a zaujatosťou sa nikam neposúvajú. A čo viac, sú zakotvené v samotnom princípe fungovania generatívnej umelej inteligencie. Veľké jazykové modely vytvárajú model sveta mapovaním jazykových vzťahov a potom z tohto rozdelenia vychádzajú hodnoverné vzorky bez koncepcie posudzovania pravdivosti alebo nepravdivosti. To vedie k tomu, že programy reprodukujú historické zaujatosti alebo nepresnosti, ktoré dostali ako tréningové údaje, ako aj jednoducho vymýšľajú informácie – napríklad neexistujúce vedecké odkazy.

Emily Benderová, počítačová lingvistka z Washingtonskej univerzity v Seattli, nevidí vhodné spôsoby využitia tohto druhu vynálezov. Nenazýva ich ničím iným ako “syntetickými strojmi na emitovanie textu”. ChatGPT má podľa nej veľký vplyv na životné prostredie. Nie je mu cudzia zaujatosť, ktorá môže byť zdrojom problémov, a je schopný zavádzať svojich partnerov, aby si mysleli, že odpovede bota v skutočnosti pochádzajú od človeka. Spoločnosť OpenAI bola tiež zažalovaná za krádež údajov. Spoločnosť bola obvinená aj z využívania vykorisťovateľských pracovných praktík (najímanie externých pracovníkov za nízku mzdu).

Rozsah a zložitosť veľkých jazykových systémov (VJM) znamená, že sú vo svojej podstate čiernymi skrinkami. Úplné pochopenie toho, prečo produkujú to, čo produkujú, je však ťažšie, keď informácie o kódoch, na ktorých bežia, a údajoch, na ktorých boli vyškolené, nemožno nájsť vo verejnom priestore. Napríklad ako v prípade ChatGPT. Používanie VJM s otvoreným zdrojovým kódom rastie, ale zatiaľ sú tieto modely menej schopné ako väčšie programy s uzavretým zdrojovým kódom.

Niektoré krajiny vytvárajú národné projekty pre výskum umelej inteligencie – aby vedci mimo korporácií v tejto oblasti mohli vytvárať a študovať veľké generatívne AI. Stále však nie je jasné, či regulácia môže prinútiť vývojárov AI zverejniť kód alebo poskytnúť bezpečnostné prvky.

Nikto nevie, čoho všetkého sú ešte systémy ako ChatGPT schopné. Je pravdepodobné, že ich schopnosti sú stále obmedzené dostupnosťou výpočtového výkonu alebo nových tréningových údajov. Generatívna revolúcia v oblasti umelej inteligencie sa však už začala. A už nie je cesty späť.

Autori článku: Mgr: Richard Van Noorden a Richard Webb

Ako ChatGPT mení internet na stoku

Bratislava 31. decembra 2023 (HSP/Theatlantic/Foto:X/ICFTU)   Špičkové západné médiá budú čeliť poklesu sledovanosti v dôsledku umelej inteligencie. Meniacu sa situáciu na internete analyzuje Damon Beres pre The Atlantic Americká spoločnosť OpenAI, ktorá vyvinula neurónovú sieť ChatGPT, podpísala zmluvu s jednou z najväčších svetových mediálnych spoločností, uvádza The Atlantic. Odteraz budú odpovede bota založené na údajoch...