Írsko začalo rozsiahle vyšetrovanie chatbota Grok Elona Muska v súvislosti so sexuálnymi snímkami vytvorenými Al

Írska komisia pre ochranu údajov uviedla, že začala formálne vyšetrovanie chatbota Grok s umelou inteligenciou platformy X v súvislosti so spracovaním osobných údajov a jeho potenciálom vytvárať škodlivé sexualizované obrázky a videá vrátane detí.

Spoločnosť Elona Muska má svoje prevádzky v Európskej únii v Írsku, a podľa všeobecného nariadenia EÚ o ochrane údajov (GDPR) môže Írsko uložiť pokutu až do výšky 4 % z celosvetových príjmov spoločnosti.

Grok sa minulý rok dostal pod paľbu kritiky po tom, ako vytvoril funkciu s názvom „Spicy Mode“, ktorá umožňovala používateľom nabádať chatbota, aby „vyzliekal“ obrázky žien a upravoval ich do póz v bikinách, čím vznikali deepfakes generované umelou inteligenciou bez súhlasu alebo ochranných opatrení.

Analýzy médií tiež zistili, že Grok často vyhovel, keď ho používatelia vyzvali, aby generoval sexuálne obrázky neplnoletých osôb vrátane jedného obrázku 14-ročnej herečky, čo vyvolalo poplach u globálnych regulačných orgánov.

Európska komisia začala formálne vyšetrovanie Groku v januári. Medzitým aj ďalšie krajiny vrátane Spojeného kráľovstva a Francúzska pohrozili právnymi krokmi alebo začali vyšetrovanie voči Groku.

Platforma X reagovala oznámením obmedzení, ktoré majú zabrániť chatbotu Grok vytvárať takéto obrázky. Správy však naznačujú, že k ich generovaniu dochádza aj naďalej.

„Írska komisia pre ochranu údajov spolupracuje so spoločnosťou XIUC (X Internet Unlimited Company) od chvíle, keď sa pred niekoľkými týždňami v médiách objavili prvé správy o údajnej schopnosti používateľov platformy X podnecovať účet @Grok na X vytvárať sexualizované obrázky skutočných ľudí vrátane detí,“ uviedol zástupca komisára Graham Doyle.

„Ako hlavný dozorný orgán pre spoločnosť XIUC v celej Európskej únie a Európskom hospodárskom priestore začala Írska komisia pre ochranu údajov rozsiahle vyšetrovanie,“ uviedol Doyle a dodal, že v rámci neho sa preskúma dodržiavanie niektorých „základných povinností spoločnosti XIUC podľa GDPR v súvislosti s predmetnými záležitosťami.“

Prečítajte si tiež:

• Európsky parlament blokuje funkcie umelej inteligencie na mobilných zariadeniach poslancov
• Možné zablokovanie Telegramu v Rusku potešilo Ukrajincov
• Vatikán použije Al na preklad omše v Bazilike svätého Petra v 60 jazykoch