ZMOS: AI prináša nové otázky zodpovednosti, ochrany údajov a ľudskej kontroly

Pripomenul, že pre mestá a obce môže byť AI významným pomocným nástrojom pri práci s dokumentmi a dátami, analytike, komunikácii s občanmi či zjednodušovaní administratívy. Zvýraznil zároveň dôležitosť verifikovania výstupov umelej inteligencie. „Pri právnych, ekonomických, rozpočtových alebo rozhodovacích údajoch musí zostať rozhodujúci originálny a overiteľný zdroj,“ potvrdil.

Pripomenul, že v nadväznosti na európske nariadenie AI Act pripravuje aj Slovensko svoj národný právny rámec. Vládny návrh zákona o štátnej správe v oblasti umelej inteligencie a európskej dátovej regulácie prešiel na septembrovej schôdzi Národnej rady SR prvým čítaním. „Návrh má upraviť najmä postavenie a pôsobnosť príslušných orgánov štátnej správy, dohľad nad dodržiavaním pravidiel a ďalšie otázky súvisiace s uplatňovaním európskej regulácie AI na Slovensku,“ vysvetlil Božik.

Predseda ZMOS však zároveň z pohľadu samospráv poukázal na širší kontext, v ktorom AI nemožno uchopiť iba jedným samostatným zákonom. Argumentuje tým, že umelá inteligencia vstupuje priečne do ochrany osobných údajov, prístupu k informáciám, pracovného práva, školstva, sociálnych služieb, zdravotníctva, verejného obstarávania, autorského práva, správneho rozhodovania aj kybernetickej bezpečnosti.

„Pre mestá a obce bude dôležité nielen poznať AI Act a funkčný národný rámec, ale aj to, ako sa používanie AI premieta do jednotlivých kompetencií a právnych predpisov, podľa ktorých samosprávy každodenne postupujú,“ priblížil Božik. „Potrebné budú jasné metodické pravidlá, kde možno AI využívať, aké údaje možno spracúvať, kto kontroluje výstup, kto nesie zodpovednosť a kde musí zostať rozhodujúca úloha človeka,“ dodal predseda ZMOS.