Sam Altman varuje: Nedáva mu to spávať

Bratislava 14. februára 2024 (HSP / Euronews/ABC News/ Foto: Screenshot Youtube)

Generálny riaditeľ spoločnosti OpenAI podľa Euronews a ABC news varuje, že “spoločenské nezrovnalosti” môžu spôsobiť, že umelá inteligencia bude nebezpečná

Sam Altman, generálny riaditeľ OpenAI varoval, že priemysel umelej inteligencie by nemal byť hnacou silou regulačných zmien.

Nedá mú spávať

Generálny riaditeľ spoločnosti OpenAI, ktorá vyrába ChatGPT, v utorok uviedol, že nebezpečenstvo v súvislosti s umelou inteligenciou (AI) mu nedáva v noci spať. Ide o “veľmi jemné spoločenské nezrovnalosti”, ktoré by mohli spôsobiť, že tieto systémy spôsobia chaos.

Sam Altman, ktorý vystúpil na Svetovom ekonomickom vládnom summite v Dubaji zopakoval svoju výzvu prostredníctvom videohovoru. V Dubaji vyzval lídrov na vytvorenie orgánu podobného Medzinárodnej agentúre pre atómovú energiu, ktorý by dohliadal na AI. AI podľa jeho slov pravdepodobne napreduje rýchlejšie, než svet očakáva.

„Sú tam niektoré veci, pri ktorých si možno ľahko predstaviť, že sa niečo naozaj pokazí. A mňa až tak nezaujímajú “roboty zabijaky”, ktoré idú po ulici smerom k situáciám, keď sa niečo pokazí,“ povedal Altman. „Oveľa viac ma zaujímajú veľmi jemné spoločenské nezrovnalosti. Keď jednoducho máme v spoločnosti tieto systémy a bez osobitného zlého úmyslu sa veci jednoducho proste hrozivo zvrtnú,“ dodal.

Altman však zdôraznil, že odvetvie umelej inteligencie, ako je OpenAI, by nemalo byť v pozícii lídra, pokiaľ ide o tvorbu predpisov, ktorými sa toto odvetvie riadi.

„Stále sme vo fáze mnohých diskusií. Takže je tu. Viete, každý na svete má na programe konferenciu, poradu. Každý má nejaký nápad, politický dokument, a to je v poriadku,“ povedal Altman.

„Myslím si, že sme stále v období, keď je diskusia potrebná a zdravá. Ale tiež si myslím, že v určitom bode v najbližších rokoch musíme prejsť k akčnému plánu so skutočnou podporou na celom svete,“ dodal.

OpenAI, startup zameraný na umelú inteligenciu so sídlom v San Franciscu, je jedným z lídrov v tejto oblasti. Spoločnosť Microsoft investovala do OpenAI približne 1 miliardu dolárov (928,8 milióna eur).

Agentúra Associated Press podpísala s OpenAI zmluvu o prístupe k jej spravodajskému archívu. The New York Times medzitým zažaloval OpenAI a Microsoft za to, že bez povolenia použil jeho články na trénovanie chatbotov OpenAI.

Vďaka úspechu OpenAI sa Altman stal verejnou tvárou rýchlej komercializácie generatívnej umelej inteligencie. A teda aj súvisiacich obáv z toho, čo môže nová technológia priniesť.

G42

Spojené arabské emiráty, autokratická federácia siedmich dedične ovládaných šejkovstiev, má znaky tohto typu ohrozenia. Prejav zostáva prísne kontrolovaný. Tieto obmedzenia ovplyvňujú tok presných informácií – tých istých detailov, na ktoré sa spoliehajú programy umelej inteligencie, ako je ChatGPT, ktoré ako systémy strojového učenia poskytujú používateľom svoje odpovede.

V Emirátoch,v Abu Dhabi, pôsobí aj firma G42, na ktorú dohliada vplyvný poradca pre národnú bezpečnosť krajiny. G42 má podľa odborníkov najlepší model umelej inteligencie v arabskom jazyku na svete. Spoločnosť čelila obvineniam zo špionáže pre svoje väzby na aplikáciu pre mobilné telefóny, ktorá bola označená za špionážny softvér. Čelí aj tvrdeniam, že mohla tajne zhromažďovať genetický materiál od Američanov pre čínsku vládu.

Spoločnosť G42 uviedla, že kvôli americkým obavám preruší väzby s čínskymi dodávateľmi. Diskusia s Altmanom, ktorú moderoval štátny minister SAE pre umelú inteligenciu Omar al-Olama, sa však netýkala žiadnych miestnych obáv.

AI je stále v plienkach

Altman zasa povedal, že ho teší, že školy, kde sa učitelia obávali, že študenti budú používať umelú inteligenciu na písanie písomiek, teraz túto technológiu prijímajú ako kľúčovú pre budúcnosť. Dodal však, že umelá inteligencia je stále v plienkach.

„Myslím si, že dôvodom je, že súčasná technológia, ktorú máme, je ako… ten úplne prvý mobilný telefón s čiernobielym displejom,“ povedal Altman.

„Takže nám dajte nejaký čas. Ale poviem vám, myslím si, že o niekoľko ďalších rokov to bude oveľa lepšie ako teraz. A o desať rokov by to malo byť už celkom obdivuhodné,“ dodal.