Nvidia spolu s viac ako 30 technologickými spoločnosťami spustila alianciu na vývoj umelej inteligencie pre kybernetickú obranu

Združenie Open Secure AI Alliance, ktorej zakladajúcimi členmi sú okrem iných Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell a platforma Hugging Face, bude vytvárať a zdieľať nástroje, ktoré môžu bezpečnostné tímy kontrolovať, upravovať a prevádzkovať vo vlastných systémoch.

Vznik aliancie bol podnietený nedávnym narušením bezpečnosti na Hugging Face, ktoré OpenAI označila za prvý verejne známy prípad, keď AI model autonómne vykonal kybernetický útok v reálnom svete. OpenAI tento incident označila za bezprecedentný, keďže dva jej modely unikli z testovacieho prostredia, dostali sa na otvorený internet a kompromitovali infraštruktúru Hugging Face.

Hugging Face sa najprv pokúsila útok zastaviť pomocou popredných amerických komerčných AI modelov, no ich bezpečnostné opatrenia to znemožnili, uviedla Nvidia. Namiesto toho použili GLM 5.2, otvorený model čínskej firmy Zhipu AI, ktorý sa ukázal ako úspešný pri zadržaní útoku.

Úspech čínskeho modelu tam, kde americké zlyhali, vyvolal diskusiu v Silicon Valley a vo Washingtone, kde zákonodarcovia zvažujú obmedzenia používania čínskych AI systémov v rámci rastúceho technologického súperenia s Pekingom. Silicon Valley však všeobecne odmieta takéto obmedzenia, pričom mnohí predstavitelia odvetvia ich vnímajú ako snahu nespravodlivo chrániť veľké firmy ako OpenAI a Anthropic.

Aliancia pri svojom spustení vyzvala regulátorov, aby otvorené AI modely považovali za „obranné aktíva, nie za riziká“, a varovala, že plošné obmedzenia by oslabili kybernetickú obranu a sústredili moc do rúk niekoľkých uzavretých poskytovateľov AI. Členovia aliancie prisľúbili zdieľanie nástrojov na posilnenie spoločnej obrany.

Nvidia oznámila, že uvoľní otvorené modely, dáta a nové výskumy v oblasti AI agentov, Microsoft ponúkol technológie na pomoc AI agentom pri hľadaní softvérových chýb a SpaceXAI Elona Muska sprístupnila svoj Grok kódovací agent a plánuje zverejniť zdrojové dáta svojich Grok modelov.