Keď Stephanie Mistreová našla pred tromi rokmi v spálni svoju dcéru Marie mŕtvu, zrútil sa jej svet. Pätnásťročná dievčina si vzala život. V ten deň v septembri 2021 sa začal boj jej mamy proti TikToku. Mistreová obviňuje videoportál, ktorý prevádzkuje čínska spoločnosť, že priviedol jej dcéru k zúfalstvu.

Keď Mistreová po dcérinej smrti prehľadávala jej mobilný telefón, objavila videá propagujúce spôsoby samovraždy, návody a komentáre, ktoré používateľov povzbudzovali k tomu, aby išli nad rámec „obyčajných pokusov o samovraždu“. Algoritmus TikToku jej dcére opakovane zobrazoval takýto obsah. „Bolo to vymývanie mozgov,“ hovorí Mistreová, ktorá žije neďaleko Marseille na juhu Francúzska.

„Normalizovali depresiu a sebapoškodzovanie a premenili ich na zvrátený pocit spolupatričnosti.“ Teraz Mistreová a šesť ďalších rodín žaluje spoločnosť TikTok vo Francúzsku. Obviňujú platformu, že nemoderuje škodlivý obsah a vystavuje deti životu nebezpečnému obsahu. Dve zo siedmich rodín prišli o dieťa. Spoločnosť TikTok na otázky uviedla, že jej usmernenia zakazujú akúkoľvek propagáciu samovrážd.

Predtým, ako sa Marie zabila, natočila niekoľko videí, v ktorých vysvetlila svoje rozhodnutie. Uvádzala rôzne ťažkosti vo svojom živote a citovala pieseň od skupiny Suicideboys, ktorá je na TikToku veľmi populárna. Bola opakovane šikanovaná a obťažovaná v škole a na internete.

Okrem žaloby jej matka a jej manžel podali sťažnosť na piatich Mariiných spolužiakov a jej bývalú strednú školu. Mistreová však obviňuje najmä TikTok. Dať aplikáciu „do rúk empatickej a citlivej tínedžerky, ktorá nevie, čo je skutočné a čo nie, je ako tikajúca bomba“. „Ich stratégia je zákerná,“ hovorí Mistre. „Lákajú deti depresívnym obsahom, aby ich udržali na platforme.“

Právnička Laure Boutron-Marmionová zastupuje sedem žalujúcich rodín a tvrdí, že ich prípad je založený na „rozsiahlych dôkazoch“. Spoločnosť sa už nemôže „skrývať za tvrdenie, že nie je zodpovedná, pretože nevytvára obsah“, vysvetľuje Boutron-Marmion. V žalobe sa tvrdí, že algoritmus TikToku je navrhnutý tak, aby v záujme zisku uvrhol zraniteľných používateľov do kruhu zúfalstva. Pre rodiny požaduje odškodnenie.

Právnička poukazuje na to, že čínska verzia TikToku, Douyin, má oveľa prísnejšie kontroly obsahu pre mladých používateľov ako tie, ktoré sa používajú vo Francúzsku. Existuje „režim pre mladých“, ktorý je povinný pre používateľov mladších ako 14 rokov. Ten obmedzuje čas strávený na obrazovke na 40 minút denne a ponúka len autorizovaný obsah. „To dokazuje, že ak chcú, dokážu moderovať obsah.“

Imran Ahmed, vedúci britsko-americkej mimovládnej organizácie Centrum pre boj proti digitálnej nenávisti, odmieta tvrdenie TikToku, že v období od apríla do júna bolo označených a odstránených viac ako 98,8 % škodlivých videí.

Jeho organizácia uskutočnila v roku 2022 štúdiu, v ktorej simulovala skúsenosti 13-ročného dievčaťa na TikToku. „V priebehu 2,5 minúty sa na účtoch zobrazil sebapoškodzujúci obsah,“ hovorí Ahmed. „Po ôsmich minútach videli obsah o poruchách príjmu potravy. V priemere algoritmus zobrazoval škodlivý obsah každých 39 sekúnd.“ Algoritmus „vie, že obsah o poruchách príjmu potravy a sebapoškodzovaní je pre mladé dievčatá obzvlášť návykový,“ hovorí Ahmed.

Mistreová, ktorá smúti za stratou svojej dcéry, chce pokračovať v boji a informovať ostatných rodičov o nebezpečenstvách, ktoré predstavujú sociálne médiá. „Rodičia musia poznať pravdu. Musíme sa postaviť týmto platformám a žiadať zodpovednosť.“