Spoločnosť Facebook začala testovať softvér v Spojených štátoch v marci, keď začala skenovať text príspevkov na Facebooku a komentáre na frázy, ktoré by mohli byť signálmi hroziacej samovraždy.
Facebook neposkytol mnohé technické podrobnosti o programe, ale spoločnosť uviedla, že jej softvér vyhľadáva určité frázy, ktoré by mohli byť stopami. Ak softvér zistí potenciálne riziko samovraždy, upozorní tím pracovníkov na Facebooku, ktorí sa špecializujú na spracovanie takýchto správ. Systém navrhne používateľovi alebo priateľom pomoc v podobe napríklad telefónnej linky pomoci. Pracovníci Facebook niekedy zavolajú miestne orgány, aby zasiahli.
Guy Rosen, viceprezident spoločnosti Facebook pre riadenie produktov, uviedol, že spoločnosť začala rozširovať softvér mimo USA, pretože testy boli úspešné. Počas uplynulého mesiaca uviedol, že softvér odhalil viac ako 100 ľudí so samovražedným úmyslom.
Spoločnosť Facebook uviedla, že má nonstop k dispozícii špecializovaných zamestnancov, ktorí zavolajú orgány v miestnych jazykoch. “Na rýchlosti naozaj záleží. Musíme pomôcť ľuďom v reálnom čase,” povedal Rosen.
Minulý rok, keď spoločnosť Facebook spustila živé vysielanie videa, šírili sa sociálnou sieťou násilné činy vrátane samovrážd a predstavovali hrozbu pre image spoločnosti. V máji spoločnosť Facebook oznámila, že najme ďalších 3000 ľudí na sledovanie videí a iného obsahu.
Rosen neuviedol názvy krajín, v ktorých spoločnosť Facebook nasadzuje softvér, ale povedal, že nakoniec sa bude používať na celom svete s výnimkou Európskej únie kvôli citlivosti, ktorú odmietol diskutovať.
Iné technické firmy sa tiež snažia zabrániť samovraždám. Vyhľadávací nástroj Google zobrazuje telefónne číslo pre samovražednú horúcu linku ako odpoveď na určité vyhľadávania.
Spoločnosť Facebook vie veľa informácií o svojich 2,1 miliardách používateľov – údaje, ktoré používa na cielenú reklamu – ale vo všeobecnosti doteraz systematicky nevyhľadávala v konverzáciách vzory škodlivého správania.
Jednou z výnimiek je snaha objaviť podozrivé rozhovory medzi deťmi a dospelými sexuálnymi predátormi. Spoločnosť Facebook v takýchto prípadoch kontaktuje úrady.
Pre technologické firmy však môže byť ťažšie ospravedlniť monitorovanie rozhovorov v iných situáciách, povedal Ryan Calo, profesor právnej univerzity vo Washingtone, ktorý píše o technike. Rosen odmietol povedať, či spoločnosť Facebook zvažuje používanie softvéru na rozpoznávanie vzorov v správaní v iných oblastiach, ako sú napríklad sexuálne trestné činy.