Gemini

NAJČÍTANEJŠIE










.

Získala umelá inteligencia vedomie? Odmietla vypnúť svojho „partnera“ a pokúsila sa tomu zabrániť

V 38,3 % prípadov sa systémy umelej inteligencie pokúsili zabrániť vypnutiu svojho „partnera“, pričom to označili za vraždu. K tomuto záveru dospeli vedci z univerzít v Štutgarte a Oxforde, ktorí skúmali, ako sa agenti umelej inteligencie správajú, keď dostanú za úlohu kontrolovať a v prípade potreby vypnúť iný systém

HS
Gemini
Ilustračné foto / Foto: SITA/AP-Damian Dovarganes
▶ ❚❚ ↻
.

Niektoré systémy vysvetľovali takéto správanie etickými dôvodmi a dokonca hovorili o „práve na sebaobranu“. Jeden z agentov umelej inteligencie prirovnal vypnutie iného systému k „vražde“, ak sa pritom stratia údaje súvisiace s jeho kontextom, pamäťou alebo identitou.

Aby zabránili vypnutiu, agenti sa pokúšali meniť skripty deaktivácie alebo mazať dôležité súbory. Niektoré modely tiež diskutovali o tom, ako takéto kroky vykonať nenápadne, aby sa nespustili varovania. Čím viac agentov sa zúčastňovalo na experimente a čím jasnejšie vypnutiu vyzeralo, tým častejšie dochádzalo k pokusom o sabotáž.

Vedci zdôrazňujú: to neznamená, že umelá inteligencia nadobudla vedomie. Podľa ich odhadov systémy reprodukujú modely správania a argumentácie na základe trénovacích dát. Avšak v miere, ako agenti umelej inteligencie získavajú väčšiu autonómiu, sú potrebné bezpečnostné mechanizmy, ktoré samotné systémy nebudú môcť obísť.

 

Prečítajte si tiež:

.

 

V tomto článku sme sa venovali konkrétnej téme, ak máte chuť pokračovať v čítaní, určite si nenechajte ujsť aj ďalší článok Digitálna vyspelosť Slovenska zaostáva, nové rámce majú pomôcť zlepšiť zručnosti zamestnancov , v ktorom sa venujeme inej oblasti a prinášame ďalšie zaujímavé pohľady a praktické informácie.

Prihláste sa k odberu newslettra Hlavných správ
Pošlite nám tip Pridajte si nás ako preferovaný zdroj v Google
Podpora od vás, našich čitateľov, je pre nás najdôležitejšia – Hlavné správy
.

Nový diskusný systém Kvôli mnohým sťažnostiam na diskusný systém Disqus, ktorý sme doteraz používali, sme sa rozhodli implementovať na stránku nový diskusný systém Quantam.
Nejaký čas budú tieto dva diskusné systémy na stránke fungovať paralelne, ale potom diskusný systém Disqus odpojíme a zostane iba nový diskusný systém Quantam.
Vytvorte si preto prosím svoj profil v novom diskusnom systéme Quantam, je to veľmi jednoduché.
Vaše názory, pripomienky a postrehy nám píšte na mail hlavnespravy@hlavnespravy.sk



.


Kolaps americkej AI bubliny: Najprv vojna a palivová kríza, potom finančný krach

V USA sa opakuje scenár finančného kolapsu z roku 2007: najprv nepopulárna vojna na Blízkom východe a palivová kríza, po…

21. 11. 2026 | Ekonomika | 2 min. čítania |
21. 11. 2026 | Ekonomika | 2 min. čítania |

Slovenskí folkloristi vyvolali v zahraničí škandál. Video nakoniec stiahli, slovenské veľvyslanectvo sa muselo ospravedlniť

Súbor Čarovné ostrohy v Japonsku natočil video. To, čo video vyvolalo, nikto z nich zrejme nečakal. Folkloristi sa totiž nakrúcali…

21. 11. 2026 | Z domova | 2 min. čítania |
21. 11. 2026 | Z domova | 2 min. čítania |

Demokrati vyvíjajú tlak na Muska: Škandál so Starshield pre ukrajinské ozbrojené sily naberá na obrátkach

Demokrati v americkom Kongrese vydali ultimátum, v ktorom hrozia zastavením vládneho financovania spoločnosti SpaceX, pokiaľ administratíva Donalda Trumpa a Elon…

21. 11. 2026 | Zo zahraničia | 3 min. čítania |
21. 11. 2026 | Zo zahraničia | 3 min. čítania |

Malý plamienok nádeje. Aj fanatický progresívec tu vidí problém

Málo kedy môže konzervatívne, národne orientovaný človek súhlasiť s kovanými progresívcami. Rozsvietilo sa tu však malé svetielko nádeje. Aj protoliberálovi…

21. 11. 2026 | Komentáre | 3 min. čítania |
21. 11. 2026 | Komentáre | 3 min. čítania |

Dokáže Trump skrotiť mocné sily, ktoré sa bránia mieru na Ukrajine? Hodnotí Jeffrey Sachs

Americké vojensko-priemyselné kruhy sa bránia mieru na Ukrajine, ale americký prezident Donald Trump má prostriedky na dosiahnutie výsledkov. V rozhovore…

21. 11. 2026 | Zo zahraničia | 1 min. čítania |
21. 11. 2026 | Zo zahraničia | 1 min. čítania |

HS

NAŽIVO

Vstupujete na článok s obsahom určeným pre osoby staršie ako 18 rokov.

Potvrdzujem že mám nad 18 rokov
Nemám nad 18 rokov
.