New York Times: Provozovatelé sociálních sítí neumí zakročit proti dezinformacím a šíření nenávisti

Instagram byl založen jako stránka pro lidi, kteří chtějí sdílet fotky svého jídla, roztomilých dětí nebo mazlíčků, podle mnohých odborníků na sociální sítě se ale za poslední rok stal spíše semeništěm nenávistných příspěvků, jejichž cílem je vyvolávat spory. Je čím dál tím očividnější, že velké digitální společnosti nikdy pořádně nechápaly negativní rozměr obrovského dosahu svých platforem ani to, jak se s ním vypořádat, napsal deník The New York Times (NYT).

Vrátit džina zpět do lahve však nelze a dopady neschopnosti provozovatelů sociálních sítí zakročit proti dezinformacím a šíření nenávisti se v posledních dnech jasně ukázaly. Muže podezřelého z rozesílání zásilek s výbušninou představitelům americké Demokratické strany, jak se zdá, radikalizovala politická propaganda na facebooku a twitteru. Jiný Američan, který o víkendu zastřelil 11 věřících v synagoze v Pittsburghu, o své nenávisti k židům psal na relativně mladé sociální síti Gab.

Někteří pozorovatelé víkendových prezidentských voleb v Brazílii pak popularitu nakonec úspěšného kandidáta Jaira Bolsonara do značné míry připisují předvolebnímu dění na sociálních médiích. Například komunikační aplikaci WhatsApp vlastněnou Facebookem zaplavil politický obsah mimo jiné s falešnými informacemi o čase či místě konání voleb.

Provozovatelé sociálních sítí uvádějí, že boj proti dezinformacím a projevům nenávisti, je složitý, nehledě na to, že není snadné ani takový obsah definovat. Facebook, YouTube i Twitter oznámily plány významných investic do automatických nástrojů, které by problematický obsah identifikovaly a odstranily. První dvě jmenované společnosti uvedly, že kvůli řešení bezpečnostních problémů a kontrole obsahu budou nabírat tisíce nových zaměstnanců.

Zatím boj proti nepravdivým zprávám a nenávistným příspěvkům příliš úspěšný není. Facebook letos informoval, že jeho interní systémy upozornily jen na 38 procent projevů nesnášenlivosti. Algoritmy oproti tomu údajně rozpoznaly a smazaly 96 procent příspěvků porušujících pravidla o zobrazování nahoty a 99,5 “teroristického” obsahu.

V pondělí, tedy dva dny po střelbě v pittsburghské synagoze, se při vyhledávání slova “Židé” na zmiňovaném instagramu objevilo 11.696 příspěvků pod heslem #jewsdid911, které propagují teorii, že židé stojí za útoky z 11. září 2001. Video pod jiným heslem publikované v neděli tvrdí, že stát Izrael vytvořila bohatá židovská rodina Rothschildů. V pondělí mělo přes 1500 zhlédnutí a bylo sdíleno na dalších stránkách včetně facebooku a twitteru. Další “heštegy” na instagramu pak odkazují na nacistickou ideologii, například číslem 88, které se používá jako zkratka pro nacistický pozdrav “Heil Hitler”.

“Sociální sítě dodávají lidem odvahu, aby překračovali hranice a tlačili na pilu, když přijde na to, co jsou schopni říct ve snaze provokovat a podněcovat,” řekl ředitel výzkumných aktivit při centru digitální žurnalistiky na Kolumbijské univerzitě v New Yorku Jonathan Albright. “Ten problém zcela zjevně narůstá,” dodal.

Po upozornění od NYT Facebook uvedl, že antisemitská hesla na instagramu prošetřuje. Podle mluvčí Sarah Pollackové instagram zaregistroval příspěvky týkající se sobotní střelby, přičemž “aktivně kontroluje heštegy a obsah spojený s těmito událostmi a obsah porušující naše pravidla maže”.