Niektoré aspekty využívania umelej inteligencie v dokazovaní v trestnom práve alebo môže AI nahradiť znalcov?

Umelá inteligencia (ďalej len AI) už naplno vtrhla do života celej spoločnosti a výrazne zasahuje aj do trestného práva. Predmetom tohto článku bude snaha popísať ako AI preniká do dokazovania v trestnom konaní a ako sa snaží vytlačiť z neho znalcov. Rovnako tak si tento článok kladie za cieľ, aspoň v stručnosti, zodpovedať otázku, či takéto nahrádzanie znalcov prostredníctvom AI je možné považovať za dôkaz, ktorý by sa mohol vykonať na hlavnom pojednávaní a z ktorého by súd mohol ustáliť skutkový stav veci.

K uvedenej problematike je nutné uviesť, že obhajcovia obžalovaných majú snahu predkladať v priebehu dokazovania v trestnom konaní písomné odborné vyjadrenia spracované výhradne AI (t. j. bez dohľadu ľudskej bytosti), v ktorých sú riešené odborné otázky, ktoré doposiaľ patrili do výhradnej kompetencie znalcov. Tak napríklad, v praxi už sa objavili odborné vyjadrenia spracované AI, v ktorých bolo vykonané grafologické porovnávanie, respektíve porovnávanie antropologické.

Stačí sa len spýtať AI, či dokáže urobiť odborný posudok a AI aj v základnej verzii odpovie, že áno a pridá napríklad takýto zoznam posudkov:

– základný posudok z grafológie, v ktorom dokáže analyzovať rukopisné znaky (veľkosť písma, sklon, tlak, rýchlosť, typy písmen a podobne), porovnávať štýl písma (podpisy, môže identifikovať možné falšovanie podpisov, detekovať výrazné rozdiely medzi dvomi vzorkami),

– základný posudok z antropológie, v ktorom dokáže preskúmať fyzickú antropológiu (rozpoznať vek, pohlavie, výšku, zranenia, ochorenia podľa analýzy lebky, kostí, postavy), forenznú antropológiu (odhad pohlavia, veku, porovnať znaky s databázou nezvestných osôb), kultúrnu antropológiu (analyzovať texty, rozhovory, zvyky, vzory správania),

– ďalej AI vie vytvárať obrazové posudky (fotografia, scen, RTG, z ktorých vie analyzovať napríklad zlomeniny), ďalej napríklad stavebné (technické) posudky týkajúce sa poškodenia budov, vie analyzovať artefakty (odhad pravosti),

– AI vie vytvoriť aj zvukové, video a hlasové posudky, z ktorých vie zistiť emócie (napríklad strach), identitu hovoriaceho (hlasový odtlačok), psychický stav (napríklad úzkosť) a kvalitu reči. Taktiež sem patrí schopnosť analyzovať a porovnávať chôdzu (čo môže byť významné napríklad pri rekognícii podľa chôdze, pri ktorej nebude opoznávať iná osoba, ale priamo AI), vie preskúmať tiež záznamy nehôd,

– AI vie analyzovať aj daktyloskopické stopy a DNA profily a porovnávať ich, či preskúmať DNA z dôvodu rodinnej analýzy.

Vyššie uvedený výpočet odborných posudkov nie je ani zďaleka konečný. Jediné čo AI potrebuje na vypracovanie odborného posudku sú kvalitné vstupné dáta, ktoré musia byť v digitálnej podobe (napríklad fotografia alebo scen rukopisu, textu, odtlačku prsta, DNA profilu, zmluvy, fotky artefaktu, fotky poškodenia a podobne). Vstupné dáta by mali byť jasne čitateľné a kvalitné. Ak nie je zrejmé, čo všetko je potrebné na spracovanie toho ktorého odborného posudku zo strany AI, stačí sa AI iba opýtať a ona žiadateľa navedie.

AI síce nie je bezchybná a v praxi už boli zaznamenané jej niektoré zjavné omyly, či dokonca výmysly (napríklad AI si dokázala opakovane vymyslieť súdne rozhodnutie, či ustanovenie zákona, respektíve literatúru, ktorú nikto nenapísal), avšak je tu a jej výstupy (potenciál) nie je možné len ignorovať.

Základné otázky, ktoré treba zodpovedať v trestnom konaní pri predložení odborného posudku spracovaného výhradne AI (bez dohľadu ľudskej bytosti) teda znajú:

1/ je možné takýto odborný posudok považovať za dôkaz v zmysle § 119 ods. 3 Tr. por.? A ak nie, mal by to Trestný poriadok umožniť?

2/ je možné, že odborné posudky vypracované AI nahradia v budúcnosti v niektorých prípadoch znalcov? Alebo je nutné bezvýhradne trvať na tom, aby bola vždy AI pod kontrolou človeka?

Ak by sme chceli byť ironickí, stačilo by povedať, že nech si na tie otázky odpovie AI sama a dá nám vedieť. Vzhľadom k tomu, že orgány činné v trestnom konaní a ani sudcov nateraz AI nenahradila (a zatiaľ tomu ani nič nenasvedčuje, pričom konečné rozhodnutia v trestnom konaní a to aj podstatné čiastkové otázky týkajúce sa napríklad prípustnosti dôkazov, nebude môcť ani do budúcna robiť AI), bude potrebné, aby sme si na položené otázky dali odpoveď bez jej pomoci.

Základné východiská posudzovania

Základným východiskom je skutočnosť, že AI nemôže hodnotiť vierohodnosť (spoľahlivosť) dôkazov a ani nemôže posudzovať ich zákonnosť (teda nemôže hodnotiť ani samú seba v tom smere, či odborné posudky vypracované AI sú alebo nie sú použiteľné v trestnom konaní). AI môže pomôcť napríklad pri sumarizácii dôkazov, či sumarizácii vyjadrení procesných strán, respektíve pri štylizácii odborného textu (či aj rozhodnutia vydaného v trestnom konaní) avšak je neprijateľné, aby hodnotila dôkazy, prípadne ich zákonnosť.

Podľa § 119 ods. 3 Tr. por. „za dôkaz môže slúžiť všetko, čo môže prispieť na náležité objasnenie veci a čo sa získalo z dôkazných prostriedkov podľa tohto zákona alebo podľa osobitného predpisu“. Z obsahového vymedzenia predmetného ustanovenia je zrejmé, že pojem „všetko“ viaže výhradne na „zákonné všetko“, t. j. pojem „všetko“ sa spája len s takým dôkazným prostriedkom, ktorý bol získaný podľa Trestného poriadku, respektíve podľa iného zákona. Musí ísť teda o dôkaz zákonný, nakoľko iba vtedy možno povedať, že bol získaný postupom predpokladaným Trestným poriadkom, či iným osobitným predpisom. Alebo povedané inak, „všetko“ čo síce môže prispieť na náležité objasnenie veci a čo sa nezískalo z dôkazných prostriedkov podľa Trestného poriadku alebo podľa osobitného predpisu nie je možné považovať v trestnom konaní za dôkaz (§ 119 ods. 3 Tr. por. argumentum a contrario).

Skutočnosť, že v právnych podmienkach SR kladie zákonodarca dôraz na zákonnosť získaných dôkazoch možno vyvodiť aj zo základnej zásady trestného konania vymedzenej v ustanovení § 2 ods. 12 Tr. por. podľa ktorej „orgány činné v trestnom konaní a súd hodnotia dôkazy získané zákonným spôsobom…“. Z uvedenej základnej zásady trestného konania teda vyplýva, že orgány činné v trestnom konaní a ani súd nemôžu vôbec pojať do hodnotenia dôkazov také dôkazy, ktoré boli získané nezákonne, respektíve bez výslovnej zákonnej opory. A práve na túto základnú zásadu trestného konania následne nadväzuje ustanovenie § 119 ods. 3 Tr. por.

Vzhľadom k tomu, že Trestný poriadok a ani iný vnútroštátny zákon zatiaľ neupravuje využívanie AI na samostatné získavanie dôkazov (bez kontroly ľudskej bytosti), je možné odpovedať na prvú vyššie uvedenú otázku tak, že odborný posudok vypracovaný AI nie je možné vykonať v trestnom konaní ako dôkaz, nakoľko nespĺňa kritériá vymedzené ustanovením § 119 ods. 3 Tr. por. Od tohto záveru je potrebné odlíšiť situáciu, keď znalec vypracováva znalecký posudok sám a len za pomoci AI (napríklad rôzne simulácie vykonávané znalcom za pomoci AI pri znaleckom spracovávaní posudku z odboru cestnej premávky), čo je prípustný odborný postup znalca a znalec k tomu (k spôsobu vypracovania znaleckého posudku) môže byť vypočutý v trestnom konaní.

Proti samostatnému produkovaniu dôkazov zo strany AI v trestnom konaní svedčí aj skutočnosť, že nie je možné overiť, či zaručiť jej nestrannosť, pretože ide o softvér spojený s algoritmom (je to strojový systém) a nie je ani jasné, kto nesie zodpovednosť za jej výstupy. V tomto smere treba uviesť, že nie je bežne možné preniknúť do tajov algoritmov fungovania umelej inteligencie, nie je možné vykonať jej kontrolu, respektíve zistiť, či umelá inteligencia má k dispozícii všetky potrebné dáta[1]. Rovnako tak, nie je možné v prípade AI vypočuť konkrétnu osobu ohľadne pochybností, tak ako je to bežné v prípadoch vadnosti, či neúplnosti znaleckých posudkov (§ 146 Tr. por.).

Zostáva ďalej preskúmať, ako pracuje s AI právo Európskej únie. V tomto smere je nutné spomenúť nariadenie Európskeho parlamentu a Rady (EÚ) (nariadenie EÚ 2024/1689) zo dňa 13.06.2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (ďalej len Akt o umelej inteligencii).

Akt o AI vymedzuje štyri úrovne rizika pre systémy umelej inteligencie, pričom na vrchole je neprijateľné riziko, v ktorých sa definujú zakázané praktiky používania systémov umelej inteligencie (z hľadiska práva sa sem zaraďuje posúdenie alebo pravdepodobnosť rizika spáchania individuálneho trestného činu, teda fyzické osoby by sa nikdy nemali posudzovať podľa správania predpokladaného AI výlučne na základe ich profilovania, osobnostných čŕt alebo charakteristík bez odôvodneného podozrenia, že daná osoba je zapojená do trestnej činnosti na základe objektívne overiteľných skutočností a bez ich ľudského posúdenia; podľa bodu 42 Aktu o AI by sa preto malo zakázať vykonávanie posudzovania rizika fyzických osôb s cieľom posúdiť pravdepodobnosť spáchania trestného činu takýmito osobami alebo s cieľom predpovedať skutočný alebo potenciálny trestný čin výlučne na základe profilovania fyzických osôb).

Ďalej nasledujú vysokorizikové prípady použitia systémov AI, ktoré nie sú síce zakázané, avšak je nutné v týchto prípadoch postupovať s vysokou mierou opatrnosti. Z hľadiska práva sem Akt o AI zaraďuje prípady použitia umelej inteligencie, ktoré môžu zasahovať do základných práv osôb (uvádza sa napríklad hodnotenie spoľahlivosti dôkazov) a používanie umelej inteligencie pri výkone spravodlivosti (používanie umelej inteligencie na prípravu súdnych rozhodnutí). V tomto ostatnom prípade sa myslí používanie umelej inteligencie na kompletné vyhotovenie súdneho rozhodnutia vrátane hodnotenia dôkazov, právnej argumentácie, čo by bolo možné považovať za porušenie práva na spravodlivý proces, avšak nie aj možné používanie umelej inteligencie na sumarizáciu vyjadrení, návrhov, či dôkazov, respektíve na prípadné preštylizovanie niektorých formulácií v rozhodnutiach. V Akte o AI nasleduje ďalej využívanie systémov umelej inteligencie s obmedzením, minimálnym, či žiadnym rizikom.

Z Aktu o umelej inteligencie sa teda nedá vyslovene vyvodiť, že by právo EÚ zakazovalo vyhotovovať odborné vyjadrenie (či stanoviská) za pomoci AI, teda napríklad grafologické, či antropologické posúdenie a predložiť takéto vyjadrenie v trestnom konaní ako dôkaz. Je teda primárne na vnútroštátnej právnej úprave akým spôsobom upraví, či neupraví možnosť vytvárania dôkazov prostredníctvom samostatnej činnosti AI. Už bolo uvedené vyššie, že za súčasnej právnej úpravy (§ 119 ods. 3 Tr. por.) nie je možné akceptovať dôkazy, ktoré boli vytvorené iba samostatne použitím AI bez kontroly (dohľadu) ľudskej bytosti. Na strane druhej, možné využívanie umelej inteligencie pri spracovávaní odborných vyjadrení, respektíve znaleckých posudkov je prípustné, avšak vždy pod dohľadom ľudskej bytosti, teda spravidla znalca (alebo napríklad lekára pri vypracovaní odborného vyjadrenia, ktorý využitie umelú inteligenciu pri vyhodnocovaní obrazových záznamov z hľadiska stanovenia diagnózy, či zisťovania zranení a podobne).

Namiesto záveru je potrebné zdôrazniť, že AI ako e-osoba nemá právnu subjektivitu a teda ani nemá právnu zodpovednosť. Treba však dodať, že zatiaľ. Už teraz totiž možno badať určité snahy napríklad zapojiť e-osobu do rozhodovania obchodných spoločností fakticky ako neformálneho člena kolektívneho štatutárneho orgánu. Kde tento vývoj skončí, nie je možné nateraz odhadnúť.