Nemecké firmy nie sú podľa najnovšej štúdie pripravené čeliť kyberútokom s využitím umelej inteligencie, ohrozujú národnú bezpečnosť

Len približne jedna z desiatich firiem má podľa prieskumu zavedené osobitné postupy na riešenie bezpečnostných incidentov súvisiacich s umelou inteligenciou. Štúdia, do ktorej sa zapojilo približne 500 spoločností s najmenej 20 zamestnancami, ukázala, že každá šiesta firma za posledných 12 mesiacov čelila kybernetickému útoku alebo pokusu o podvod, pri ktorom AI zohrávala alebo mohla zohrávať určitú úlohu.

Námestník šéfa BSI Thomas Caspers upozornil, že umelá inteligencia má „bezprostredné aj strategické dôsledky pre národnú bezpečnosť“.

Najčastejšou hrozbou sú podľa štúdie phishingové e-maily generované umelou inteligenciou, ktoré sú „mimoriadne presvedčivé a cielene prispôsobené konkrétnym osobám alebo firmám“. Nasledujú automatizované útočné skripty schopné samostatne vyhľadávať bezpečnostné slabiny a prispôsobovať sa ochranným opatreniam.

Rastúcim problémom sú aj takzvané deepfake technológie, teda manipulované zvukové a obrazové záznamy. Tie môžu napríklad napodobňovať hlas vrcholových manažérov a presvedčiť zamestnancov, aby uskutočnili finančné prevody.

Autori štúdie upozornili, že 43 percent spoločností sa stále „spolieha na svoje všeobecné procesy IT bezpečnosti bez zapracovanie smerníc špecificky zameraných na AI“.

Prieskum zároveň ukázal, že 71 percent oslovených firiem sa považuje za nedostatočne informovaných o povinnostiach vyplývajúcich z európskeho aktu o umelej inteligencii, ktorý Európska únia prijala v roku 2024 ako prvý komplexný rámec regulácie AI na svete.