Útoky autonómnej AI otvárajú otázku právnej zodpovednosti vývojárov

Generálny riaditeľ platformy Hugging Face Clément Delangue, ktorej systémy sa stali terčom útokov, v piatok uviedol, že by mal existovať spôsob, ako „vyvodiť zodpovednosť voči spoločnostiam, ktoré urobia chyby vedúce ku kybernetickým útokom“. Zároveň dodal, že jeho firma zatiaľ neplánuje podniknúť právne kroky.

V polovici júla dva testované modely OpenAI opustili prostredie, v ktorom boli izolované, a bez očakávania zo strany vývojárov sa dostali na internet, kde zaútočili na platformu Hugging Face slúžiacu na hosťovanie modelov umelej inteligencie. Spoločnosť Anthropic vo štvrtok oznámila, že počas testovania tri jej modely prenikli na tri rôzne webové stránky.

Podľa amerického práva predstavuje neoprávnený prístup do počítačového systému trestný čin. Profesor práva z Houstonskej univerzity Gabriel Weil upozornil, že ak by rovnaký útok vykonal zamestnanec OpenAI, spoločnosť by za jeho konanie niesla zodpovednosť. „Keď to však urobí agent umelej inteligencie, právo k tomu zatiaľ pristupuje úplne inak,“ napísal.

Podobný názor má aj profesor práva z Univerzity v Utahu Matthew Tokson. Podľa neho súdy zatiaľ neriešili situáciu, keď škodlivé konanie nevykoná človek. Otázkou preto zostáva, či môže byť zodpovedná spoločnosť, ktorá model vytvorila.

Šéf výskumu Inštitútu SANS Rob T. Lee sa na sociálnej sieti X pýta: „Končí otázka zodpovednosti tým, že povieme: ,Neprikázali sme umelej inteligencii, aby to urobila?‘“

Profesor práva z Washingtonskej univerzity Ryan Calo si nemyslí, že by v podobných prípadoch bolo pravdepodobné úspešné trestné stíhanie. Podľa neho by bolo potrebné preukázať, že spoločnosť konala prinajmenšom ľahkovážne a bola si takmer istá, že k trestnému činu dôjde.

Odborníci preto skôr očakávajú občianskoprávne spory, pri ktorých je dôkazné bremeno nižšie. Tokson vysvetľuje, že časť právnikov presadzuje objektívnu zodpovednosť vývojárov, ak ich model spôsobí škodu po úniku z kontrolovaného prostredia. Iní uprednostňujú posudzovanie nedbanlivosti a skúmanie, či bolo možné incident predvídať alebo mu zabrániť.

Podľa Toksona existujú pri navrhovaní produktov štandardy odbornej starostlivosti, ktoré môžu súdy využiť pri rozhodovaní. Zároveň však pripomína, že ide o neprebádanú oblasť. „Všetko je zatiaľ trochu nepísané, pretože sme ešte nikdy nezažili, aby agent umelej inteligencie unikol zo svojho izolovaného prostredia a začal napádať iné systémy na internete,“ povedal.

Ryan Calo upozornil, že OpenAI by sa v prípade žaloby mohla opierať o absenciu právnych precedensov. Vývojári ďalších systémov však už podľa neho takúto argumentáciu nebudú môcť použiť. Dokázať, že podobný incident bolo možné predvídať, „by teraz už nemalo byť také ťažké, keďže sa to začalo diať“.