Získala umelá inteligencia vedomie? Odmietla vypnúť svojho „partnera“ a pokúsila sa tomu zabrániť

Niektoré systémy vysvetľovali takéto správanie etickými dôvodmi a dokonca hovorili o „práve na sebaobranu“. Jeden z agentov umelej inteligencie prirovnal vypnutie iného systému k „vražde“, ak sa pritom stratia údaje súvisiace s jeho kontextom, pamäťou alebo identitou.

Aby zabránili vypnutiu, agenti sa pokúšali meniť skripty deaktivácie alebo mazať dôležité súbory. Niektoré modely tiež diskutovali o tom, ako takéto kroky vykonať nenápadne, aby sa nespustili varovania. Čím viac agentov sa zúčastňovalo na experimente a čím jasnejšie vypnutiu vyzeralo, tým častejšie dochádzalo k pokusom o sabotáž.

Vedci zdôrazňujú: to neznamená, že umelá inteligencia nadobudla vedomie. Podľa ich odhadov systémy reprodukujú modely správania a argumentácie na základe trénovacích dát. Avšak v miere, ako agenti umelej inteligencie získavajú väčšiu autonómiu, sú potrebné bezpečnostné mechanizmy, ktoré samotné systémy nebudú môcť obísť.

Prečítajte si tiež:

• Trump má v úmysle vymenovať Jaya Claytona za „cára umelej inteligencie“
• Chyba umelej inteligencie takmer začala vojnu medzi USA a Čínou