Anthropic varuje, že malé modely AI sa čoskoro môžu šíriť internetom ako počítačové červy

Takýto vývoj by podľa výskumníkov otvoril nový typ kybernetickej hrozby. Modely by už nemuseli fungovať vo výkonných dátových centrách, ale mohli by sa šíriť sieťami lacných a slabo zabezpečených zariadení, ako sú televízne prijímače či domáce spotrebiče.

„Takýto červ by bol pravdepodobne pomalý a kopírovanie by mu trvalo celé dni,“ uviedli výskumníci Anthropic William Zhou a Daniel Freeman. Prirovnali ho k parazitickým slizovkám alebo roju ovocných mušiek.

Odhad založili na botnete Kimwolf, ktorý na vrchole napadol viac ako dva milióny zariadení, prevažne lacných boxov s operačným systémom Android TV.

„Keď by už raz vznikol, bolo by veľmi ťažké ho úplne odstrániť, pretože by neexistoval žiadny centrálny vypínač,“ upozornili výskumníci.

Anthropic pripustil, že ide zatiaľ o hrubý odhad založený na jednom type zariadenia a jednom historickom botnete. Riziko však podľa spoločnosti porastie, keďže výpočtový výkon bežnej elektroniky sa zvyšuje a modely AI sa zároveň zmenšujú a stávajú efektívnejšími.