Umelá inteligencia môže do desiatich rokov vyhladiť ľudstvo, varuje bývalý výskumník v Anthropicu a OpenAI

„Ani jedna spoločnosť nekoná zodpovedne. Ženú sa priamo k samostatne sa zlepšujúcej superinteligencii a hazardujú s našimi životmi,“ vyhlásil v utorok dvadsaťsedemročný Jacob Coxon. Superinteligencia je teoretický bod, keď schopnosti AI presiahnu ľudskú inteligenciu.

Coxon, ktorý posledné tri roky strávil predtrénovaním AI modelov – najprv v OpenAI a tento rok v konkurenčnom Anthropicu –, sa preto rozhodol túto oblasť úplne opustiť. „Ľudia, ktorí vyvíjajú AI, úprimne veria, že nás to môže do konca desaťročia všetkých zabiť,“ uviedol na platforme X. „Toto nie je marketingový trik,“ dodal.

Bezpečnostný pracovník spoločnosti Anthropic Evan Hubinger Coxona v príspevku na platforme X podporil. „My naozaj úprimne veríme, že AI môže zabiť všetkých ľudí!“ napísal a riziko odhadol na viac než desať percent v priebehu nasledujúceho desaťročia.

Hubinger uviedol, že Anthropic „robí, čo môže“, no zatiaľ nemá plán, ako zabezpečiť, aby systém „s nadľudskými schopnosťami“ poslúchal svojich tvorcov. Pri súčasných modeloch je však podľa neho toto riziko nízke.

Lídri v oblasti umelej inteligencie tvrdia, že tzv. „rekurzívne samostatné zlepšovanie“, t.j. fáza, keď by systémy AI mohli navrhovať a trénovať ďalšiu generáciu modelov s minimálnym zásahom človeka, sa blíži.

Koncom júla viac než 1 000 pracovníkov technologického sektora vrátane generálneho riaditeľa spoločnosti Anthropic Daria Amodeiho požiadalo Washington, aby podporil koordinované spomalenie vývoja najpokročilejších AI systémov.

V nedeľu šéf výskumu v OpenAI Jakub Pachocki vyzval na „extrémnu opatrnosť“. „Medzinárodná koordinácia budúceho vývoja AI sa musí stať najvyššou prioritou vlád na celom svete,“ napísal na blogu.