Môj profil 
Predplatné
V článku sa dočítate:
- Kde sa dostala neurónová sieť Claude počas testovania.
- Kedy sa udalosť odohrala a kedy ju zistili.
- Prečo porucha vznikla.
- A o koľký prípad už ide.
Spoločnosť Anthropic potvrdila incident, pri ktorom sa ich neurónová sieť Claude počas testovania neoprávnene dostala do cudzieho systému. Hoci sa udalosť odohrala už v januári, zistili ju až teraz po dôkladnej kontrole tisícov testovacích relácií.
Porucha vznikla v dôsledku chyby v nastaveniach bezpečnosti, ktorá modelom umožnila pripojiť sa k internetu. Podobné incidenty sa už skôr vyskytli u modelu Claude Opus a iných testovacích verzií.
Z tohto dôvodu výskumník Jacob Coxon opustil spoločnosť Anthropic. Vyjadril obavy, že odvetvie sa nadmerne sústreďuje na zbrojné preteky a nevenuje dostatočnú pozornosť skutočným bezpečnostným hrozbám. Podľa neho existuje vážne riziko, že umelá inteligencia sa môže vymknúť spod kontroly ľudí už v najbližších desiatich rokoch.
Ide už o štvrtý podobný prípad. Spoločnosť Anthropic už skôr informovala o troch podobných incidentoch s inými verziami modelu Claude. Na vyšetrovanie spoločnosť najala nezávislú výskumnú organizáciu METR.
Prečítajte si tiež:
- Bill Gates už neverí AI. Umelú inteligenciu chce kontrolovať
- “Zničenie ľudstva.” Krstný otec umelej inteligencie vydal vážne varovanie. Toto by okamžite zakázal
- Coxon podal výpoveď z obavy, že umelá inteligencia sa vymkne spod kontroly a zničí ľudstvo
Strašidlá opäť ožívajú. Zemplínsky festival duchov a strašidiel prinesie strašidelný bál
Košický samosprávny kraj a Zemplínske múzeum v Michalovciach, kultúrna organizácia Košického samosprávneho kraja, pozývajú širokú verejnosť na obľúbené podujatie Zemplínsky…
Hasiči likvidovali požiar trávnatého porastu v katastri obce Ľutov
Profesionálni i dobrovoľní hasiči v stredu likvidovali požiar trávnatého porastu a strniska v katastri obce Ľutov v okrese Bánovce nad…
Požiar porastu pod Tatrami hasiči zlikvidovali
Požiar porastu, ktorý nahlásili v stredu dopoludnia v katastri obce Stráne pod Tatrami v okrese Kežmarok, sa hasičom podarilo zlikvidovať.…
Národný inštitút vzdelávania a mládeže vyhlásil tri čitateľské projekty
Národný inštitút vzdelávania a mládeže vyhlásil tri čitateľské projekty, ktoré sú súčasťou dlhodobej podpory rozvoja čitateľskej gramotnosti, tvorivosti a vzdelávania.…
Kosová: Súdna rada nemá kompetencie vysloviť nesúlad právneho predpisu s ústavou
Súdna rada nemá žiadne kompetencie, ktorými by mohla sama vysloviť nesúlad akéhokoľvek právneho predpisu s ústavou alebo ignorovať akýkoľvek zákon.…
