Existuje riziko zániku ľudstva do konca tohto desaťročia?

Podľa Altmana v dôsledku rýchleho rozvoja umelej inteligencie existuje riziko zániku ľudstva do konca tohto desaťročia.

Preto sa OpenAI teraz zameria na otázky bezpečnosti a kontroly umelej inteligencie, aj keby to malo byť na úkor ďalšieho vývoja produktu.

„Považujem za neprijateľné riskovať, že do konca tohto desaťročia všetci zahynieme s pravdepodobnosťou 10 %. Myslím si, že práve teraz vstupujeme do novej éry a pravdepodobne budeme musieť – tak, ako sme to robili v iných obdobiach v minulosti – konať inak, aby sme zaručili, že naša činnosť prinesie prospech celému ľudstvu, pričom však nikto nebude riskovať,“ vyhlásil Altman.

Pripomeňme, že šéf spoločnosti Anthropic (model Claude) Dario Amodei už skôr napísal článok, v ktorom vyzval na obmedzenie tempa zdokonaľovania nových modelov umelej inteligencie.

„Za posledných niekoľko mesiacov som sa presvedčil, že na úplné vyriešenie problémov súvisiacich s rizikami je potrebná ešte väčšia obozretnosť – nielen investície do prevencie rizík, ale aj regulácia tempa rozvoja schopností, aby systém prevencie rizík nezostával pozadu,“ domnieva sa šéf spoločnosti Anthropic.

Amodei hovorí, že jeho obavy vyvolalo výrazné zrýchlenie vývoja umelej inteligencie, ktoré začalo približne toto leto a súvisí predovšetkým s rastúcou schopnosťou umelej inteligencie vytvárať modely nasledujúcich generácií.

„Vzhľadom na zrýchľujúce sa tempo rozvoja schopností umelej inteligencie sa obávam, že za 6 až 12 mesiacov bude takýto „roj“ schopný ovládnuť celý internet prostredníctvom nepretržite fungujúceho „botnetu“ a potenciálne spôsobiť škody v hodnote stoviek miliárd dolárov,“ píše Amodei.

Šéf spoločnosti Anthropic navrhol trojfázový plán, ktorého prvým krokom by mala byť externá odborná kontrola všetkých popredných spoločností v oblasti umelej inteligencie. Druhou fázou je koordinácia medzi spoločnosťami s cieľom stanoviť spoločné bezpečnostné štandardy a obmedzenia, treťou fázou je globálna koordinácia na úrovni vlád.

Zakladateľ xAI (Grok) Elon Musk s týmito myšlienkami súhlasil.

„Dario má pravdu,“ napísal Musk na X.

Prečítajte si tiež: 

• “Stávky sú príliš vysoké.“ Šéf Anthropicu varuje pred umelou inteligenciu, do roka očakáva závažný problém