Nenávist není jiná v „off-line světě“ a on-line prostoru. Jitka Votavová o projektu SafeNet

V projektu, který vznikl pod záštitou Mezinárodní sítě proti kybernetické nenávisti (INACH), mapujeme nenávistné projevy na internetu všeho druhu, nahlašujeme je sociálním sítím, sledujeme, jak dlouho jim trvá zpětná vazba a zda se vůbec reportovaným obsahem zabývají. Za dobu fungování SafeNetu, který je financovaný ze zdrojů EU, jsme dohromady s dalšími členy nahlásili téměř 20 000 případů závažných projevů nenávisti.

Sociální sítě jsou pro většinu z nás součástí každodenního fungování. Rozkliknutí ikonky „f“ nebo „X“ na mobilu se stalo automatickým pohybem a v digitálním světě trávíme během dne často mnoho hodin. Vedle pozitivních stránek, jako je možnost udržovat kontakty, vzdělávat se, sdílet informace z oblastí, kterým velká média nevěnují pozornost, nebo třeba jen recept na skvělý babiččin jablečný koláč, nám ale pobyt ve „světě za klávesnicí“ přináší i mnohá závažná rizika. Jako každý veřejný prostor i tyto platformy jsou totiž zneužívané k šíření hoaxů, dezinformací, šikany, nenávisti a výzev k násilí.

Oblastí, které se v rámci SafeNetu věnuji, jsou vzhledem k zaměření organizace ROMEA primárně protiromské příspěvky, a to na pěti nejoblíbenějších sociálních sítích v ČR –  Facebooku, Twitteru/X, Instagramu, YouTube a TikToku. Ostatní organizace se zabývají například nenávistí namířenou proti muslimům, homofobními komentáři či antisemitskými projevy.

V online světě se často setkáváme s projevy nenávisti, která má základ v praktikování principu kolektivní viny, kdy se terčem útoků a výzev k násilí stávají lidé jen proto, že mají odlišný etnický původ, náboženskou víru, sexuální orientaci a další převážně menšinové charakteristiky. Tento fenomén má vážné důsledky nejen pro konkrétního člověka a komunity, vůči kterým je nenávist namířená přímo, ale v důsledku pro celou společnost, do které stále více proniká polarizace na všech možných „frontách“, vzájemná nedůvěra a strach z „těch druhých“. Nezákonné jednání na internetu je navíc stejně postižitelné jako v „off line“ světě, zdánlivě anonymní virtuální prostředí z člověka nesnímá jeho právní ani morální zodpovědnost.

Nejasná pravidla

Jedním z klíčových zjištění, ke kterým jsme díky SafeNetu, který se zaměřuje na vytvoření efektivních nástrojů pro detekci nenávistného obsahu a jeho rychlé odstranění, dospěli, je skutečnost, že pravidla, na základě kterých sociální sítě přistupují k nahlášenému nenávistnému obsahu, zůstávají běžnému uživateli naprosto nejasná a spíš to vypadá, jako by sítě rozhodovaly nahodile. Často tak i navzdory nahlášení zůstávají na sítích viset příspěvky vyzývající třeba k vyhlazení celé skupiny obyvatelstva, zatímco mnohem méně závažné komentáře moderátoři případně nástroje umělé inteligence smažou. Přednastavené algoritmy pro vyhledávání nezákonného materiálu třeba na základě klíčových slovních spojení mohou být tedy prokazatelně velmi nepřesné a nedostatečné, a „lidským moderátorům“ v důsledku nedostatečného pochopení kontextu, který bývá zásadní, unikají i zcela hrubé nenávistné projevy.

Nenávist není jiná v „off-line světě“ a on-line prostoru. Jedná o stejný jev s potenciálem rozkládat celé společnosti, ohrožovat jejich soudržnost v boji proti porušování lidských práv a mírový chod právních států. Je nutné si neustále připomínat, že jazyk má ohromnou moc a svoboda slova končí tam, kde je slovo zneužívané právě k šíření nenávisti a může být akcelerátorem násilností, které se velmi snadno přelévají do hmatatelného světa. Jsem přesvědčená o tom, že právě proto je důležité věnovat pozornost iniciativám, které se zaměřují na bezpečnost a ochranu zranitelných skupin a společnosti před nenávistným obsahem (nejen) na internetu, což samo o sobě představuje veřejný zájem – a hlavně se do takových iniciativ aktivně zapojovat.

Článek vyšel v časopise Romano voďi.