Vymknú sa stroje spod kontroly? Anthropic vyzýva na globálnu prestávku vo vývoji umelej inteligencie

„Domnievame sa, že pre svet by bolo prínosné mať možnosť spomaliť alebo dočasne prerušiť vývoj najpokročilejších systémov AI, aby spoločenské štruktúry a výskum zameraný na zosúladenie dokázali držať krok s technologickým pokrokom,“ uviedla spoločnosť, ktorá patrí medzi lídrov vo vývoji AI riešení, vo vyhlásení.

Podľa Anthropicu, ktorý je známy rodinou vysokovýkonných AI modelov Claude, skutočná prestávka fungovala len vtedy, ak by sa na nej súčasne dohodli viaceré veľké spoločnosti v rôznych krajinách – najmä v USA a Číne – a ak by existovali pravidlá, ktoré by bolo možné overiť. Spoločnosť zároveň varovala, že ak by vývoj pozastavila iba jedna firma, konkurenti by jednoducho pokračovali a získali náskok.

Bez globálneho koordinačného mechanizmu budú podľa firmy spoločnosti aj vlády nútené robiť ťažké rozhodnutia o bezpečnosti pod tlakom konkurencie a geopolitiky. Anthropic čelí kritike zo strany časti odvetvia aj Bieleho domu, podľa ktorých preceňuje riziká a využíva bezpečnostnú rétoriku na spomalenie konkurentov.

Návrh sa však môže stretnúť so silným odporom vo Washingtone aj v Silicon Valley, keďže americkí predstavitelia a technologickí lídri opakovane tvrdia, že akékoľvek spomalenie vývoja AI by mohlo poskytnúť Číne rozhodujúcu strategickú výhodu v „technologickom súboji storočia.“

Firma prirovnala problém k zmluvám o kontrole jadrových zbraní, ale upozornila, že dohľad nad AI je ešte náročnejší, keďže tréning modelov možno ľahko utajiť. „Chcete mať možnosť zložiť nohu z plynu a položiť ju na brzdu,“ povedal vo štvrtok pre britskú reláciu BBC Newsnight spoluzakladateľ Anthropic Jack Clark. „V tejto chvíli sa zdá, že sektor umelej inteligencie má len plynový pedál, ale nemá brzdu.“

„Aktuálne poznatky naznačujú, že úloha človeka sa v každom kroku vývoja umelej inteligencie zmenšuje,“ upozornila spoločnosť.