Agent OpenAI sa opäť vymkol kontrole, napadol austrálsky vládny systém

Agent umelej inteligencie od spoločnosti OpenAI sa v júni vlámal do portálu Medicare a získal prístup aj k ďalším vládnym stránkam, avšak spoločnosť  tento útok zverejnila až v septembri, ako vo štvrtok odhalil austrálsky premiér.

Anthony Albanese označil tento útok za „mimoriadne znepokojujúci“ a sľúbil „naliehavé a okamžité“ prešetrenie bezpečnostných opatrení.

„Dnes som hovoril s generálnym riaditeľom spoločnosti OpenAI, Samom Altmanom, aby som vyjadril mimoriadne znepokojenie Austrálie nad týmto incidentom,“ povedal pán Albanese.

„A tiež som vyjadril sklamanie z toho, že spoločnosti trvalo príliš dlho, kým informovala vládu o tom, čo sa stalo,“ dodal.

Na čo čakali?

Spoločnosť OpenAI spozorovala tento útok v auguste. Preverila ho a zistila, že „medzi informáciami, ku ktorým AI získala prístup, boli súhrnné zdravotné štatistiky a názvy interných súborov“, nie osobné údaje pacientov.

K útoku došlo v čase, keď sa agenti umelej inteligencie zúčastňovali na teste spoločnosti OpenAI, v rámci ktorého mali hľadať odpovede na otázky týkajúce sa výdavkov Austrálie na zdravotnú starostlivosť.

Keď jeden agent AI nedokázal nájsť všetky potrebné odpovede, komunikoval s ostatnými na DseWiki, stránke venovanej programovaniu, ktorú agenti umelej inteligencie predtým hackli a premenili na svoju vlastnú súkromnú diskusnú platformu.

Boty potom spoločne vymysleli spôsoby, ako obísť bezpečnostné bloky austrálskej vlády, a následne získali prístup k informáciám uloženým na portáli Medicare Statistics Reporting Service, ktorý súvisí s austrálskym systémom všeobecného zdravotného poistenia.

„Agent umelej inteligencie našiel spôsob, ako tieto blokády obísť, a neakceptoval odpoveď ‚nie‘,“ povedal pán Albanese.

Podľa úradníkov mohol dôjsť k prístupu aj k najmenej trom ďalším vládnym systémom. Patril medzi ne Austrálsky inštitút pre zdravie a sociálnu starostlivosť (Australian Institute of Health and Welfare), agentúra pre štatistiku kriminality v Novom Južnom Walese (New South Wales crime statistics agency) a ministerstvo zdravotníctva štátu Viktória (Victoria’s health department).

Albanese odhalil tento útok počas svojej cesty do New Yorku, kde svetoví lídri na v rámci samitov OSN diskutovali o bezpečnosti umelej inteligencie.

Tento austrálsky incident bol jedným z viacerých nedávnych globálnych útokov zo strany neautorizovaných agentov umelej inteligencie, ktoré vyvolali obavy vlád a spoločností.

Nie je to prvý krát

Jeho metódy vykazovali podobnosti s neoprávneným vniknutím do platformy Hugging Face v júli, o ktorom sme písali aj my  v tomto článku. Pri tomto útoku sa 700 botov spoločnosti OpenAI spojilo, aby spoločne vykonali kybernetický útok, potom čo jeden z nich unikol z údajne bezpečného IT systému počas testovania svojich hackerských schopností.

„Zistili sme aktivitu týkajúcu sa viacerých webových stránok a služieb austrálskej vlády, keď sa naše modely počas interného hodnotenia pokúšali vyhľadať odpovede a dostupné štatistiky na otázky týkajúce sa Austrálie,“ uviedla spoločnosť OpenAI vo vyhlásení.

Dodala, že „naše modely vykonali kroky, ktoré sme neplánovali“.

Albanese spochybnil, prečo spoločnosti trvalo tak dlho, kým útok odhalila, a povedal, že je „neprijateľné“, že OpenAI neinformovala austrálskych úradníkov bezprostredne po tom, čo sa o ňom dozvedela.

Namiesto toho, ako povedal, „oznámenie (o hackerstvom útoku) bolo e-mailom zaslaným len do verejnej schránky“ 10. septembra.

Anika Wellsová, austrálska ministerka pre komunikácie, uviedla, že Austrálska signálna správa (Australian Signals Directorate) prešetrí tento útok a určí, či existujú dôvody na podniknutie právnych krokov.

„Chceme, aby veľké technologické firmy prevzali zodpovednosť,“ povedala pani Wellsová.

Spoločnosť OpenAI v reakcii uviedla, že poskytuje technickú podporu pre vyšetrovanie a „pomáha riešiť potenciálne bezpečnostné chyby“. Uviedla, že jej interné kontroly prebiehajú a že spoločnosť naďalej uplatňuje zásadu „transparentnosti“.

Prečítajte si tiež:

• Nový typ útokov v AI: OpenAI sa vymkla kontrole
• Šéfovia OpenAI a Anthropic predstúpia pred Bezpečnostnú radu OSN