Sam Altman: „Svet by mal akceptovať, že sa dejú aj zlé veci“ v záujme prínosov umelej inteligencie

Generálny riaditeľ OpenAI Sam Altman uviedol, že medzi jeho spoločnosťou a konkurenčnou firmou Anthropic naďalej existuje zásadný rozdiel v pohľade na reguláciu umelej inteligencie. V exkluzívnom rozhovore pre Decoded pre Politico argumentoval, že prínosy tejto technológie oprávňujú akceptovať určité riziká – a že umelá inteligencia by mala zostať široko dostupná pre verejnosť.

„Myslím si, že medzi nami je veľký rozdiel,“ povedal Altman spoluzakladateľovi Decoded a hlavnému technologickému reportérovi menovaného denníka Brendanovi Bordelonovi. Na otázku, v čom konkrétne sa jeho názor líši od postoja spoločnosti Anthropic a jej generálneho riaditeľa Daria Amodeiho, Altman odpovedal: „Veríme, že svet by mal akceptovať, že sa dejú aj niektoré zlé veci v prospech tejto technológie a (prajeme si) aby ľudia mali možnosť rozhodovať .“

Spoločnosť Anthropic je v odvetví už dlho vnímaná ako najsilnejší zástanca regulácie umelej inteligencie, čo je postoj, ktorý bol až donedávna v rozpore s miernejším prístupom, ktorý uprednostňuje OpenAI. Rozdiely v politike medzi týmito dvoma poprednými firmami v oblasti umelej inteligencie sa však v posledných mesiacoch zmenšili, pričom OpenAI podporuje prísnejšie pravidlá, keďže sa potĺka s mediálne známymi hackerskými incidentmi a nežiaducim správaním svojich modelov.

Altman minulý mesiac súhlasil s výzvou Amodeiho, aby sa spomalil vývoj najpokročilejších modelov umelej inteligencie. Jeho spoločnosť nasledovala príklad spoločnosti Anthropic a podporila nové štátne zákony, ktoré ukladajú prísnejšie bezpečnostné požiadavky, než aké výrobca ChatGPT predtým podporoval – ide o jemný posun od jej predchádzajúcej stratégie na úrovni štátov. A lobisti spoločnosti OpenAI nedávno podporili návrh Snemovne reprezentantov, ktorý by vyžadoval, aby popredné spoločnosti v oblasti umelej inteligencie zapojili externých hodnotiteľov bezpečnosti.

Napriek tejto konvergencii sa Altman pokúsil odlíšiť regulačný postoj svojej firmy od postoja spoločnosti Anthropic, pričom poukázal na kritiku týkajúcu sa „regulačného zajatia“, ktorú technologickí poradcovia blízki prezidentovi Donaldovi Trumpovi adresovali spoločnosti Anthropic.

„Nesúhlasím s tým, ale chápem pohľad ľudí, ktorí hovoria: ‚Táto technológia bude taká výkonná a taká nebezpečná, že by ju malo mať len jedno laboratórium v San Franciscu, ktoré by malo zabezpečiť, aby sa nestalo nič zlé, a akosi vymyslieť, ako rozdeľovať prínosy,‘“ povedal Altman. Nazval to „úplne neprijateľným kompromisom“, ktorý je v rozpore s „miernejším regulačným postojom“, ktorý podporuje OpenAI.

„Neprijal by som kompromis typu: ‚Zabezpečíme, aby nedošlo k žiadnym závažným hackerským útokom, k žiadnemu zneužitiu tejto technológie, k žiadnym podvodom ani k žiadnym iným zlým veciam, ktoré by sa mohli stať,‘“ povedal Altman. „Pretože si myslím, že ľudia urobia nesmierne veľa – o niekoľko rádov viac – dobrých vecí než zlých,“ dodal.

Generálny riaditeľ OpenAI neskôr dodal, že neakceptuje „naozaj katastrofické riziká“, vrátane možnosti „vážnej straty kontroly nad umelou inteligenciou“.

Na žiadosť o reakciu hovorca spoločnosti Anthropic uviedol, že jej „regulačné návrhy sa vzťahujú iba na priekopnícke modely“. Spoločnosť tiež poukázala na augustovú výmenu názorov na sociálnych médiách, ktorú viedol Amodei s investičným manažérom a v ktorej sa zaoberali kritikou týkajúcej sa regulačného ovplyvňovania a dopadov na menšie spoločnosti.

„Spoločnosť Anthropic vždy formulovala svoje návrhy politík veľmi opatrne,“ povedal vtedy Amodei a pokračoval: „Veľmi sa snažíme predkladať návrhy, ktoré znevýhodňujú (spomaľujú) špičkové spoločnosti v oblasti umelej inteligencie, zatiaľ čo „výhodne pôsobia“ na menších konkurentov.“

Rozhovor s Altmanom, ktorý sa objavil v pondelkovom prvom vydaní časopisu Decoded a v sprievodnom dennom podcaste, sa venoval aj Trumpovej novej dohode o umelej inteligencii s poprednými technologickými firmami a jeho pokusu o rebranding (zmena názvu, premenovanie) pojmu „superinteligencia“; vlne incidentov autonómneho hackovania spôsobených modelmi OpenAI a otázke, či by spoločnosť mala niesť právnu zodpovednosť; Altmanove názory na peniaze z odvetvia umelej inteligencie, ktoré zaplavujú americkú politiku; vplyv takzvaných efektívnych altruistov v rámci OpenAI; a jeho pohľad na kľúčových politických hráčov, vrátane francúzskeho prezidenta Emmanuela Macrona a kalifornského guvernéra Gavina Newsoma.

Relácia „Decoded by Politico“— ktorú pripravujú Brendan, Christine Muiová, Calder McHugh a Sam Sutton — čerpá z reportáží približne 50 novinárov POLITICO z celého sveta a venuje sa nielen smerovaniu technologického odvetvia, ale aj osobnostiam, politickým sporom a bojom, ktoré ho tam vedú. Prihláste sa na odber spravodajstva a podcastu.

Prečítajte si tiež:

• Apple podniká kroky na obmedzenie prístupu umelej inteligencie k citlivým údajom
• OpenAI predstavila lacnejší AI model a nepretržité nástroje, plánuje premeniť ChatGPT na AI obchod