Anthropic sa nám nasťahuje do obývačky

Tím Frontier Red spoločnosti Anthropic uviedol, že takúto samoreplikujúcu sa umelú inteligenciu by bolo „náročné vypnúť“ kvôli nedostatku centralizovaného hostiteľa. Hostiteľom sa môže stať televízor, mobil, ako aj „inteligentná“ chladnička, rúra či robotická kosačka na trávu. Tieto zariadenia by čoskoro mohli poskytnúť dostatočný výpočtový výkon na samoreplikáciu.

AI nás už čoskoro predstihne v mnohých činnostiach. O jej pozitívnych a negatívnych stránkach sa vedú spory. Ak by však negatívne prejavy UI výrazne prevažovali (napr. pri vedení vojenských operácií, kde sa žiada dohľad človeka), stále tu ostávala možnosť bezpečného vypnutia, keďže pôsobila z jediného izolovaného dátového centra. Táto výsada – zdá sa – bude čoskoro minulosťou.

Môžeme čakať, že sa chladničky a televízory proti nám raz vzbúria? Zatiaľ sa súčasné modely AI nepreukázali dostatočne výkonnými, aby sa spoľahlivo replikovali v inteligentom televízore pripojenom na internetovú sieť, odborníci odhadujú, že vznik takého modelu je len otázkou času – dokonca len 10 týždňov.

Mnohí zástancovia bezpečnosti umelej inteligencie označili sebazdokonaľovanie, kde sa modely učia samy seba zlepšovať, za kritický bod zlomu, ktorý by mohol viesť ku katastrofálnym škodám pre ľudstvo. „Dnes to nie je existenčná hrozba. Ale trajektória je znepokojujúca,“ uzavrel Roman V. Yampolskiy, expert na umelú inteligenciu a kybernetickú bezpečnosť na University of Louisville.