Bill Gates upozorňuje na slabinu AI: Samotné vypnutie nemusí stačiť

Gates: Samotný vypínač nestačí

Gates reagoval na diskusiu o návrhoch, ktoré by od spoločností vyžadovali zabudovanie takzvaného „kill switch“ priamo do systémov umelej inteligencie.

„Ten vypínač je dosť zvláštna vec. Nestačí mať len vypínač,“ povedal Gates. Zároveň uviedol, že súčasná AI ešte nie je v štádiu, keď by autonómne preberala kontrolu nad počítačmi a následne by sa nedala vypnúť.

Podľa Gatesa verejná debata o tejto téme zároveň ukazuje, že mnohí ľudia nemajú dostatočné technické znalosti o fungovaní umelej inteligencie.

Namiesto samotného vypínača chce monitorovanie

Gates uviedol, že nie je proti existencii systému umožňujúceho AI vypnúť. Za dôležitejšie však považuje povinné monitorovanie pokročilých modelov a vedenie záznamov o ich fungovaní.

Takéto opatrenia by podľa neho mohli pomôcť odhaliť a obmedziť prípady, keď ľudia využívajú umelú inteligenciu na kybernetické útoky alebo bioterorizmus.

„Spojené štáty by sa mali uistiť, že sa to urobí. Čína to bude chcieť urobiť,“ povedal Gates.

Jeho vyjadrenia prichádzajú v čase, keď americkí zákonodarcovia diskutujú o regulácii rizík spojených s umelou inteligenciou. Senátor Rand Paul, republikán z Kentucky, nedávno zablokoval pokus svojho straníckeho kolegu Johna Neelyho Kennedyho o rýchle schválenie legislatívy, ktorá by spoločnostiam vyvíjajúcim AI nariadila zabudovať do ich modelov „kill switch“.

Paul argumentoval tým, že senátori potrebujú pred zavedením nových pravidiel viac informácií. Navrhol vytvorenie pracovnej skupiny, ktorá by pripravovala odporúčania týkajúce sa ochrany pred rizikami umelej inteligencie pre senátny obchodný výbor. Kennedy tento návrh odmietol.

Gates zároveň presadzuje zákonné požiadavky na bezpečnostné opatrenia a monitorovanie AI. Podľa neho nemožno spoliehať iba na dobrovoľné pravidlá, ktoré si nastavia samotné technologické spoločnosti.

„Je jasné, že samotná samoregulácia nestačí,“ uviedol.

Za bezprostrednejšie riziko pritom Gates nepovažuje samotné AI systémy, ktoré by konali úplne autonómne, ale predovšetkým ľudí, ktorí ich môžu využiť na škodlivé účely. „Najväčším problémom sú ľudia, ktorí umelú inteligenciu zneužívajú, nie samotná umelá inteligencia,“ dodal.

Prečítajte si tiež

• Bill Gates varuje: AI by mohla spôsobiť smrť jednej miliardy ľudí
• Bill Gates upozorňuje na hrozbu AI: „Takú mocnú zbraň sme ešte nemali“