Krstný otec umelej inteligencie odišiel z Google, aby varoval ľudstvo pred jej hrozbami

Londýn/New York 3.mája 2023 (HSP/Guardian/Foto:Facebook)

Priekopník neurónových sietí varuje pred hrozbou chatbotov a ich zneužitím “nebezpečnými osobami” napísal The Guardian s odvolaním sa na New York Times

Muž, ktorý je často označovaný za krstného otca umelej inteligencie, odišiel zo spoločnosti Google, pričom vyjadril obavy zo záplavy dezinformácií, možnosťou, že umelá inteligencia naruší trh práce a “existenčným rizikom”, ktoré predstavuje vytvorenie skutočnej digitálnej inteligencie.

Doktor Geoffrey Hinton, ktorý v roku 2012 vytvoril neurónovú sieť, dal tento týždeň výpoveď v spoločnosti Google, informoval o tom denník New York Times.

Hinton, ktorý má už 75 rokov uviedol, že odišiel, aby mohol slobodne hovoriť o nebezpečenstvách umelej inteligencie a čiastočne ľutuje svoj prínos v tejto oblasti. Google ho pred desiatimi rokmi angažovala, aby jej pomohol vyvinúť technológiu umelej inteligencie. Vďaka jeho práci vznikli súčasné systémy, ako je napríklad ChatGPT.

Pre New York Times povedal, že až do minulého roka bol podľa neho Google “správnym správcom” technológií. To sa zmenilo, keď Microsoft začal pridávať chatbotov do vlastného vyhľadávača Bing a Google sa začal obávať konkurencie pre svoj biznis s vyhľadávaním.

Chatboti predstavujú “desivú” hrozbu, vyhlásil Hinton a varoval, že by sa mohli stať inteligentnejšími ako ľudia a mohli by ich zneužiť nebezpečné osoby. “Je schopný automaticky produkovať množstvo textu, takže môžete získať veľa efektívnych spambotov.  Autoritárskym vodcom to umožní manipulovať s ich voličmi a podobné veci.”

Dodal však, že sa obáva aj “existenčného rizika, toho čo sa stane, ak sa tieto veci stanú inteligentnejšími ako my.

“Dospel som k záveru, že druh inteligencie, ktorý vyvíjame, sa veľmi líši od tej, ktorú máme,” povedal. “Je to, ako keby ste mali 10 000 ľudí a kedykoľvek by sa jeden z nich niečo naučil, každý z nich by to automaticky vedel. A tak môžu chatboti vedieť oveľa viac ako ktorýkoľvek človek.”

Hinton nie je sám, kto sa obáva toho, že táto technológia by mohla predstavovať vážnu hrozbu pre ľudstvo. Elon Musk minulý mesiac informoval, že sa pohádal s Larrym Pageom, spoluzakladateľom Googlu, pretože Page “neberie zabezpečenie AI dostatočne vážne”. Musk pre Fox News vyhlásil, že Page si želal “digitálnu superinteligenciu, v podstate digitálneho boha a to čo najskôr”.

Valérie Pisano, výkonná riaditeľka Quebeckého inštitútu pre umelú inteligenciu uviedla, že ľahkomyseľný prístup k bezpečnosti systémov umelej inteligencie by sa netoleroval v žiadnej inej oblasti. “Technológia sa použije a zatiaľ čo systém komunikuje s ľuďmi, vývojári čakajú čo sa stane a na základe toho robia úpravy. Takýto spôsob myslenia by sme predtým nikdy neakceptovali v žiadnej inej priemyselnej oblasti. V technológiách a sociálnych médiách je náš prístup niečo ako: Áno, jasné, vyriešime to neskôr,” upozornila.

Hintonove obavy sa v súčasnosti stávajú realitou. Ľudia majú problém rozoznať čo je pravda, potom ako internet zaplavili fotografie, videá a texty vytvorené umelou inteligenciou.

Nedávne vylepšenia generátorov obrázkov, ako je Midjourney, znamená, že ľudia teraz môžu vytvárať fotorealistické obrázky. Napríklad fotku pápeža Františka v dámskom kabáte Balenciaga, ktorá sa v marci tohto roku stala populárnou.

Hinton sa zároveň obáva, že umelá inteligencia nakoniec nahradí zamestnancov v administratíve, či osobných asistentov a v iných “nudných prácach.”

Vedecký riaditeľ spoločnosti Google Jeff Dean vo svojom vyhlásení uviedol, že Google si cení Hintonov prínos pre spoločnosť za posledných desať rokov. “Užíval som si mnohé naše rozhovory. Bude mi chýbať a želám mu všetko dobré! Ako jedna z prvých spoločností, ktorá zverejnila Zásady umelej inteligencie, naďalej pokračujeme so zodpovedným prístupom k umelej inteligencii. Neustále sa učíme pochopiť vznikajúce riziká pričom zároveň odvážne inovujeme.”

Toby Walsh, vedúci vedecký pracovník Inštitútu umelej inteligencie Univerzity v Novom Južnom Walese, medzitým upozornil, že ľudia by mali odteraz spochybňovať všetky online médiá, ktoré uvidia. “Pokiaľ ide o akékoľvek digitálne údaje, ktoré vidíte či už audio alebo video, musíte sa zaoberať myšlienkou, že ich niekto podvrhol.”