“Fejkoví” lekári aj RTG snímky. Umelá inteligencia a deepfake technológie môžu byť hrozbou pre verejné zdravie

Americká lekárska asociácia AMA minulý týždeň vyzvala federálnych aj štátnych zákonodarcov, aby sprísnili ochranu identity a vyplnili legislatívne medzery, ktoré umožňujú tvorbu a šírenie deepfake obsahu. Šéf asociácie John Whyte označil situáciu za krízu verejného zdravia a bezpečnosti. Združenie zároveň žiada tvrdší postup voči tvorcom deepfake videí a pravidlá, ktoré prinútia technologické platformy rýchlejšie odstraňovať falošné impersonácie.

Kalifornia už zaviedla povinné označovanie reklám generovaných umelou inteligenciou a zvažuje explicitný zákaz deepfake videí s lekármi. V Pensylvánii lekárska komora nariadila technologickej firme, aby okamžite zastavila používanie chatbota, ktorý sa vydával za lekára s platnou lekárskou licenciou.

Lekári tiež upozorňujú, že na internete čoraz častejšie nachádzajú videá a reklamy, v ktorých ich tvár či hlas propaguje doplnky výživy, „dlhovekosť“, neoverené liečebné postupy alebo neschválené zdravotnícke pomôcky. „Stáva sa to bežnou vecou. Každý pozná niekoho, koho sa to dotklo,“ povedal Whyte.

Problémom je, že lekári tak môžu čeliť žalobám, ak pacientom uškodí produkt alebo rada, ktorú im v skutočnosti nikdy nedali.

Zneužívanie deepfake technológie sa netýka len osôb. Zdravotnícke zariadenia hlásia aj falošné diagnostické snímky a sfalšované klinické dáta. Štúdia v časopise Radiology ukázala, že väčšina lekárov nedokázala deepfake röntgenové snímky rozpoznať, a štvrtina z nich dokonca ani po upozornení na typické znaky obrázkov vygenerovaných AI.

Podľa hlavného autora štúdie Mickaela Tordjmana z Icahn School of Medicine môžu byť takéto snímky zneužité na poisťovacie podvody, manipuláciu s diagnózami alebo vyvolanie chaosu v nemocničných systémoch.

Whyte upozornil, že AI narúša dôveru v profesiu, kde je dôveryhodnosť často otázkou života a smrti. „Nemali by sme nútiť verejnosť, aby bola detektívom pri zisťovaní, či niečo nie je deepfake,“ povedal.