Chyba umelej inteligencie takmer začala vojnu medzi USA a Čínou

Chybná správa vyhodnotená systémami umelej inteligencie (AI) takmer doviedla americkú armádu k nebezpečnej operácii proti čínskej lodi. Až tesne pred zásahom sa údajná jadrová hrozba ukázala ako „ilúzia“.

Podľa správy spravodajskej stanice CNN sa už americké ozbrojené sily pripravovali na ozbrojenú operáciu s cieľom zadržať čínsku loď na Blízkom východe. Podľa týchto informácií už na tento účel dokonca vzlietli vojenské lietadlá, zatiaľ čo vojaci sa pripravovali na obsadenie nákladnej lode. Vedenie reagovalo na správy (vyhodnotené umelou inteligenciou), podľa ktorých loď prevážala súčiastky pre jadrový zbrojný program – a to uprostred vojny USA proti Iránu, v ktorej podľa amerických údajov išlo aj o iránsky jadrový program.

Chybu AI odhalili v poslednej chvíli

Až v poslednej chvíli zodpovední vojenskí predstavitelia odhalili, že správa, ktorú vypracoval analytik s pomocou umelej inteligencie, bola úplne vymyslená. Analytik z Tichomorského veliteľstva špeciálnych síl na Havaji „nakŕmil“ chatbota správami tajných služieb a verejne dostupnými údajmi. Systém AI nesprávne prepojil tieto informácie a samostatne vymyslel tvrdenie o údajnom jadrovom náklade na lodi.

Analytik výsledok bez overenia zabalil do štandardného reportu a poslal ďalej svojmu vedeniu.

Správa generovaná AI bola nielen vymyslená, ale mohla potenciálne „vyvolať vojnu“ medzi Spojenými štátmi a Čínou, ako uviedol zdroj televíznej stanice CNN.

Napriek tejto „nehode“ USA masívne presadzujú integráciu umelej inteligencie na všetkých vojenských úrovniach.

Už v januári predstavil americký minister obrany Pete Hegseth stratégiu urýchlenia práce s AI s cieľom odstrániť byrokratické prekážky. Hegseth vtedy zdôraznil: „Uvoľníme priestor pre experimentovanie, odstránime byrokratické prekážky, zjednotíme naše investície a predvedieme prístup k realizácii, ktorý je nevyhnutný na to, aby sme si zabezpečili vedúcu pozíciu v oblasti vojenskej umelej inteligencie.“

Používanie AI so sebou nesie obrovské riziká

Bezpečnostní experti však varujú pred týmto enormným tempom, keďže doteraz chýbajú jednotné štandardy na overovanie správnosti výsledkov, ktoré umelá inteligencia generuje.

Ako informuje CNN, rôzne oddelenia Pentagónu používajú odlišné modely umelej inteligencie bez centrálnej kontroly kvality. Najmä mladší analytici majú tendenciu slepo dôverovať automatizovaným systémom.

Jeden z informovaných zdrojov s ohľadom na časový tlak, pod ktorým analytici pracujú, zdôraznil: „Umelá inteligencia nám umožňuje rýchlejšie prísť k zlému nápadu.“

Prečítajte si tiež:

• AI preberá časť pracovných úloh, no výskumy ukazujú, že nemusí znamenať iba zánik pracovných miest
• Bill Gates varuje: AI by mohla spôsobiť smrť jednej miliardy ľudí 
• Bill Gates upozorňuje na slabinu AI: Samotné vypnutie nemusí stačiť