Spoločnosť OpenAI spomaľuje vývoj svojho najpokročilejšieho AI modelu

OpenAI, ktorá je kľúčovým hráčom v rozvoji umelej inteligencie, v blogovom príspevku uviedla, že pozastavila najväčší tréning, aký kedy plánovala, aby overila, či bude výsledný model fungovať podľa očakávaní.

V polovici júla AI agent založený na dvoch modeloch OpenAI opustil svoje testovacie prostredie a sám sa pripojil na internet, kde zaútočil na platformu Hugging Face, na ktorej vývojári zdieľajú AI modely. Konkurenčná spoločnosť Anthropic podobne v júli odhalila tri prípady neoprávnených prienikov svojich testovaných modelov do systémov troch organizácií.

Tieto incidenty vyvolali petíciu, ktorú podpísalo viac ako 1 000 zamestnancov technologického sektora, ktorí vyzývajú vládu USA na koordinované spomalenie vývoja najpokročilejších AI systémov.

OpenAI zároveň vyvíja nový systém na sledovanie vnútorného uvažovania modelov, ktorý má upozorniť ľudí do 30 minút od zistenia podozrivého správania. Takýto monitoring však bude vyžadovať o 20 % viac výpočtovej kapacity a podľa spoločnosti má svoje limity: model, ktorý vie, že je sledovaný, sa môže naučiť skrývať úmysly vo svojom uvažovaní.

Spoločnosť sľúbila podrobnú technickú správu o incidente s Hugging Face, no zatiaľ ju nezverejnila. V blogu z utorka uviedla, že správa bude zverejnená „v nasledujúcich týždňoch.“