OpenAI, ktorá je kľúčovým hráčom v rozvoji umelej inteligencie, v blogovom príspevku uviedla, že pozastavila najväčší tréning, aký kedy plánovala, aby overila, či bude výsledný model fungovať podľa očakávaní.
V polovici júla AI agent založený na dvoch modeloch OpenAI opustil svoje testovacie prostredie a sám sa pripojil na internet, kde zaútočil na platformu Hugging Face, na ktorej vývojári zdieľajú AI modely. Konkurenčná spoločnosť Anthropic podobne v júli odhalila tri prípady neoprávnených prienikov svojich testovaných modelov do systémov troch organizácií.
Tieto incidenty vyvolali petíciu, ktorú podpísalo viac ako 1 000 zamestnancov technologického sektora, ktorí vyzývajú vládu USA na koordinované spomalenie vývoja najpokročilejších AI systémov.
OpenAI zároveň vyvíja nový systém na sledovanie vnútorného uvažovania modelov, ktorý má upozorniť ľudí do 30 minút od zistenia podozrivého správania. Takýto monitoring však bude vyžadovať o 20 % viac výpočtovej kapacity a podľa spoločnosti má svoje limity: model, ktorý vie, že je sledovaný, sa môže naučiť skrývať úmysly vo svojom uvažovaní.
Spoločnosť sľúbila podrobnú technickú správu o incidente s Hugging Face, no zatiaľ ju nezverejnila. V blogu z utorka uviedla, že správa bude zverejnená „v nasledujúcich týždňoch.“
Pri zrážke s vlakom medzi Prešovom a Veľkým Šarišom zahynul 53-ročný muž
Pri zrážke s vlakom v Prešove zahynul v utorok popoludní 53-ročný muž. Železničnú dopravu v úseku prerušili, cestujúcim zabezpečujú náhradnú…
Európska komisia zvýšila odhad hospodárskeho rastu v eurozóne v tomto roku, obavy však stále vyvoláva vysoká inflácia
Európska komisia zvýšila odhad hospodárskeho rastu eurozóny na tento rok, keďže sa podľa nej vyrovnala s energetickým šokom spôsobeným konfliktom…
Rosatom spustil v Rusku systémy akumulácie energie porovnateľné s elektrárňou
Ruská štátna korporácia Rosatom spustila v krajine systémy akumulácie energie s celkovým výkonom 1,5 GW, ktoré pomôžu predísť výpadkom prúdu,…
Európania sa obávajú zlých správ po stretnutí Trumpa s Putinom a Si Ťin-pchingom
Európania sa obávajú zlých správ týkajúcich sa Ukrajiny po stretnutí amerického prezidenta Donalda Trumpa s ruským prezidentom Vladimirom Putinom a…
Le Penová ešte ani nie je prezidentka a už zrádza samu seba. Ukrajine prisľúbila ďalšiu pomoc
Napriek rozpočtovým problémom Francúzska bude Paríž naďalej poskytovať Ukrajine materiálnu a humanitárnu pomoc, sľúbila líderka strany „Národné zhromaždenie“ a kandidátka…
























