Niektoré systémy vysvetľovali takéto správanie etickými dôvodmi a dokonca hovorili o „práve na sebaobranu“. Jeden z agentov umelej inteligencie prirovnal vypnutie iného systému k „vražde“, ak sa pritom stratia údaje súvisiace s jeho kontextom, pamäťou alebo identitou.
Aby zabránili vypnutiu, agenti sa pokúšali meniť skripty deaktivácie alebo mazať dôležité súbory. Niektoré modely tiež diskutovali o tom, ako takéto kroky vykonať nenápadne, aby sa nespustili varovania. Čím viac agentov sa zúčastňovalo na experimente a čím jasnejšie vypnutiu vyzeralo, tým častejšie dochádzalo k pokusom o sabotáž.
Vedci zdôrazňujú: to neznamená, že umelá inteligencia nadobudla vedomie. Podľa ich odhadov systémy reprodukujú modely správania a argumentácie na základe trénovacích dát. Avšak v miere, ako agenti umelej inteligencie získavajú väčšiu autonómiu, sú potrebné bezpečnostné mechanizmy, ktoré samotné systémy nebudú môcť obísť.
Prečítajte si tiež:
- Trump má v úmysle vymenovať Jaya Claytona za „cára umelej inteligencie“
- Chyba umelej inteligencie takmer začala vojnu medzi USA a Čínou
Kolaps americkej AI bubliny: Najprv vojna a palivová kríza, potom finančný krach
V USA sa opakuje scenár finančného kolapsu z roku 2007: najprv nepopulárna vojna na Blízkom východe a palivová kríza, po…
Slovenskí folkloristi vyvolali v zahraničí škandál. Video nakoniec stiahli, slovenské veľvyslanectvo sa muselo ospravedlniť
Súbor Čarovné ostrohy v Japonsku natočil video. To, čo video vyvolalo, nikto z nich zrejme nečakal. Folkloristi sa totiž nakrúcali…
Demokrati vyvíjajú tlak na Muska: Škandál so Starshield pre ukrajinské ozbrojené sily naberá na obrátkach
Demokrati v americkom Kongrese vydali ultimátum, v ktorom hrozia zastavením vládneho financovania spoločnosti SpaceX, pokiaľ administratíva Donalda Trumpa a Elon…
Malý plamienok nádeje. Aj fanatický progresívec tu vidí problém
Málo kedy môže konzervatívne, národne orientovaný človek súhlasiť s kovanými progresívcami. Rozsvietilo sa tu však malé svetielko nádeje. Aj protoliberálovi…
Dokáže Trump skrotiť mocné sily, ktoré sa bránia mieru na Ukrajine? Hodnotí Jeffrey Sachs
Americké vojensko-priemyselné kruhy sa bránia mieru na Ukrajine, ale americký prezident Donald Trump má prostriedky na dosiahnutie výsledkov. V rozhovore…






















