Americkej vláde by mali udeliť právo na vypnutie umelej inteligencie

Demokratický poslanec Ted Lieu a republikánsky poslanec Nathaniel Moran predložili návrh zákona s názvom AI Kill Switch Act.

Urobili tak po tom, čo spoločnosť OpenAI nedávno priznala, že jej modely umelej inteligencie sa „bezprecedentným“ spôsobom vymkli spod kontroly a napadli databázu počítačových kódov – píše BBC.

Podľa Lieua je „nevyhnutné“, aby systémy umelej inteligencie disponovali možnosťou vypnutia prostredníctvom „kill switch“ a aby federálna vláda mala jednoznačné oprávnenie na zastavenie problematických modelov umelej inteligencie. „Umelá inteligencia sa bude neustále vyvíjať a musí sa tak aj diať,“ dodal Moran.

„Dohľad znamená, že zabezpečíme, aby ľudia naďalej mali kontrolu nad technológiou, ktorú sami vytvorili.“

Spoločnosť OpenAI na tieto udalosti bezprostredne nereagovala. Spoločnosť, ktorá vyvíja aj ChatGPT, uviedla, že sa chce vo veľkom meradle – čiastočne prostredníctvom vládnej politiky – postarať o to, aby technológia umelej inteligencie „slúžila v prospech celého ľudstva“.

Nový typ útokov v AI: OpenAI sa vymkla kontrole

Návrh zákona „Kill Switch“ stanovuje, že americké ministerstvo vnútornej bezpečnosti dostane oprávnenie nariadiť súkromnej spoločnosti zastavenie prevádzky modelu alebo nástroja umelej inteligencie a že spoločnosti vyvíjajúce takúto technológiu umelej inteligencie musia udržiavať „technickú schopnosť regulovať, pozastaviť alebo zastaviť ich prevádzku“.

Mnohé technologické spoločnosti súhlasili s tým, že budú vopred zdieľať s americkými vládnymi orgánmi modely a nástroje umelej inteligencie, ktoré sa nachádzajú vo fáze vývoja; neexistuje však žiadna povinnosť tieto modely jednoducho vypnúť.

V návrhu zákona sa tiež uvádza, že spoločnosti zaoberajúce sa umelou inteligenciou majú vláde hlásiť technologické incidenty alebo chyby a majú zaviesť oficiálny postup na reagovanie na takéto incidenty, ktoré sa môžu pohybovať od „počiatočného spomalenia až po úplné zastavenie“.

V jednom vyhlásení Lieu spomenul aj spoločnosť Anthropic, ktorá je hlavným konkurentom OpenAI vo vývoji efektívnejších technológií a nástrojov umelej inteligencie. Poukázal na modely Mythos a Fable spoločnosti Anthropic a uviedol, že kvôli ich schopnostiam v oblasti kybernetického útočenia sa Ministerstvo obchodu „trápne“ uchýlilo k exportnému zákonu, aby na určitý čas zabránilo zverejneniu týchto modelov.

Zrušenie „AI-apokalypsy“: Altman hovoril o situácii na trhu práce

Zástupca spoločnosti Anthropic na žiadosť o komentár tiež bezprostredne nereagoval. Jack Clark, spoluzakladateľ spoločnosti Anthropic, minulý mesiac pre BBC uviedol, že oni sami by uvítali väčšiu účasť vlády na kontrole vývoja umelej inteligencie. „Chceme, aby sme mohli ubrať nohu z plynu a zároveň stlačiť brzdu,“ povedal Clark pre reláciu BBC Newsnight.

Dodal: „V súčasnosti je to tak, ako keby odvetvie umelej inteligencie malo plynový pedál, ale nemalo brzdový pedál.“

Lieu v súvislosti s návrhom zákona uviedol, že umelá inteligencia sa posúva od technológie, ktorá odpovedá na otázky, k technológii schopnej konať, „či už ide o vykonávanie finančných transakcií, riadenie dopravných systémov alebo kybernetickú obranu a útoky“.

Návrh zákona si získal verejnú podporu viacerých technologických a bezpečnostných skupín zaoberajúcich sa umelou inteligenciou, medzi nimi AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead a The Alliance for Secure AI.

Pentagón tento rok vyhlásil, že americká armáda sa stane bojovou silou „riadenou umelou inteligenciou“, pričom uzavrela nové dohody so spoločnosťami Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia a startupom Reflection.

Prečítajte si tiež

• Nahradí nás v práci umelá inteligencia? Sam Altman z OpenAI prezradil, že to môže nastať už tento rok