Americký minister financií sa obáva rizík spojených s používaním umelej inteligencie

Podľa informácií tohto periodika boli na stretnutie vo Washingtone pozvaní vedúci predstavitelia Bank of America, Citigroup, Goldman Sachs, Morgan Stanley a Wells Fargo. Prítomný bol aj šéf Federálneho rezervného systému USA.

Diskusia sa týkala nového modelu Claude Mythos, ktorý je schopný nájsť zraniteľnosti v IT systémoch na úrovni prevyšujúcej väčšinu odborníkov. Samotná spoločnosť Anthropic uviedla, že takéto systémy už môžu „prekonať takmer všetkých ľudí“ v hľadaní a potenciálnom využívaní slabých miest v softvéri. To otvára obrovské možnosti na hacknutie akýchkoľvek systémov.

Podľa údajov spoločnosti model odhalil tisíce závažných slabín, vrátane tých, ktoré desaťročia zostávali nepovšimnuté – aj v operačných systémoch a prehliadačoch.

A teraz sa americké úrady obávajú, že takéto nástroje môžu zvýšiť kybernetické riziká pre finančný systém, ak sa dostanú do rúk neoprávnených osôb.

V tejto súvislosti bol prístup k modelu obmedzený a poskytnutý len vybraným partnerom, vrátane veľkých technologických spoločností.

Šéf banky JPMorgan Chase už skôr varoval, že kybernetické hrozby zostávajú jedným z kľúčových rizík pre globálne financie a rozvoj umelej inteligencie ich takmer nevyhnutne zosilní.

Prečítajte si tiež:

• MŠVVaM investuje vyše 20 miliónov eur do AI a strategických technológií na vysokých školách
• Svätá stolica varuje pred novými formami rasizmu prostredníctvom AI