Hejt v online svete

Možno si pamätáte, keď ste sa pri čítaní noviniek na Facebooku (v súčasnosti už Meta) spravodlivo nahnevali. Možno sa tak deje aj každý deň. Alebo patríte k tým, ktorí cítia bezmocnosť pri pohľade na toľko nenávisti. Zo sociálnych sietí tak odchádzate s pocitom, že svet smeruje k horšiemu a nedá sa to zastaviť.

Opak je však pravdou. Ak neveríte, tak si môžete prečítať knihy Hansa Roslinga, Oly Roslingovej a Anny Roslingovej Rönnlundovej: Moc faktov či Rutgera Bregmana: Ľudskosť. Obe predstavujú svetlú stránku ľudstva a dokazujú, že svet je čoraz lepším miestom na život. Keď je to objektívne, tak prečo je potom Facebook plný hejtu (z ang. hate – nenávisť, nenávidieť)?
Odpoveď sa skrýva sčasti v našom vnímaní – sme zvyknutí pamätať si skôr negatívne fakty, sčasti na tom majú vinu aj médiá. Čítanosť negatívnych správ je totiž vyššia, a preto nám ich servírujú ochotnejšie a častejšie. Ak sme si niekedy v minulosti mysleli, že na sociálnych médiách budeme mať bez cenzora dosah na úplne iný obsah, nemohli sme sa viac mýliť. Nielenže nás prepojenosť na nich nespasí, ale hejt a negativitu ešte zosilňujú.
Hejt veľmi úzko súvisí s dezinformáciami. Aj preto nenávistný prejav (z ang. hate speech) považujeme za jeden z indikátorov, ktoré poukazujú na pochybný zdroj informácií.

Antisociálne správanie

Hejt nie je v spoločnosti novým fenoménom. Útoky na rôzne menšiny a zraniteľné skupiny obyvateľstva sa diali aj bez pomoci sociálnych médií. A následky týchto útokov už poznáme – či už to bol hon na čarodejnice alebo holokaust počas druhej svetovej vojny. Hejt je nebezpečný najmä tým, že polarizuje spoločnosť – spočiatku nenápadne, neskôr čoraz agresívnejšie.
Najskôr si povedzme, čo hejt vlastne je. Využijeme na to definíciu, ktorú sme publikovali v spolupráci s Centrom spoločenských a psychologických vied SAV v našej štúdii s názvom Hate speech operationalization: a preliminary examination of hate speech indicators and their structure (2021). Na jej vytvorenie sme použili tzv. indikátory. Ide o pozorovateľné a merateľné charakteristiky hejtu, ako sú napríklad prítomnosť vulgarizmov alebo vyzývanie k násilnému správaniu.
Pod hejtom (na internete) rozumieme akékoľvek napádanie nejakej skupiny ľudí na základe pohlavia, sexuálnej preferencie, rasy, národnosti, etnicity, náboženského vyznania, veku, akéhokoľvek znevýhodnenia atď., pričom sú tieto skupiny osočované, zosmiešňované, ponižované a zastrašované. Tiež to, ak sa nenápadne popierajú ľudské práva, akýkoľvek pokus o obmedzovanie týchto ľudí, alebo ak sa nejaká skupina zbytočne generalizuje a šíria sa o nej stereotypy. Nehovoriac o tom, keď sa priamo vyzýva k násiliu, či ak sa tejto skupine vulgárne nadáva, prípadne sa označuje inými dehonestujúcimi nálepkami či prezývkami.
Napádaním skupín obyvateľstva na základe ich charakteristík sa hejt líši od šikany, ktorá je iným negatívnym fenoménom aj online sveta. Pri šikane si útočníci vyberajú zväčša jednotlivcov a dôvody pre šikanu môžu mať rôzne, ešte širšie ako pri hejte. Zaujímavé je, že oba tieto druhy antisociálneho správania bývajú často dláždené dobrými úmyslami, ako je ochrana vlastnej skupiny pred nebezpečnosťou tej druhej.

Facebook ako živná pôda

Už Mary Aikenová vo svojej knihe The Cyber Effect v roku 2016 upozorňovala, že online svet – a Facebook je jeho súčasťou – normalizuje nenormálne. Správanie, ktoré by sa dialo na periférii a ostalo záležitosťou niekoľkých jednotlivcov, sa vďaka sociálnym médiám normalizuje tým, že sa dostáva k širokému publiku. V podobne zameranej skupine si ľudia svoje názory utvrdia a na ich rozšírenie do sveta stačí jeden influencer. To však vyplýva zo samotného charakteru sociálnych médií.
Ďalším stimulátorom hejtu sú emócie. Donedávna panoval názor, že informácie nabité hnevom alebo úžasom sa prirodzene šíria častejšie. Whistleblowerka z Facebooku Frances Haugenová dokázala, že Facebook tieto emócie ešte vedome zosilňuje. Možno si pamätáte, keď Facebook v roku 2015 zaviedol pre reakcie nové emotikony. Ukázalo sa, že spoločnosť ich využívala aj na manipuláciu s tým, aké informácie sa nám zobrazujú. Podľa uniknutých dokumentov algoritmus Facebooku hodnotil statusy, ktoré ostatní označili emotikonom (napríklad tým nahnevaným) za päťkrát hodnotnejšie ako tie, ktoré dostali iba páči sa mi.

Manipulácia obsahu

Emotívne emotikony boli hodnotené aj tridsaťkrát viac. V roku 2017, keď Facebook novinku zaviedol, médiá informoval, že emotívny obsah hodnotí iba o trochu viac ako lajky. V praxi to znamená, že vyjadrenia, ktoré vzbudzovali hnev, sa používateľom zobrazovali päť- až tridsaťkrát častejšie ako tie neutrálne. V skutočnosti však ľudia nahnevaný emotikon používali najmenej, iba 429 000 000-krát za týždeň. Na porovnanie: lajkovali 63 000 000 000-krát a ľúbili 11 000 000 000-krát.
Takáto manipulácia obsahu nenechala chladných ani dátových vedcov samotného Facebooku. Zistili, že vyjadrenia vyvolávajúce hnev veľmi často obsahovali dezinformácie (najmä zdravotné, napr. o očkovaní), toxický obsah či obsah s nízkou hodnotou. Zlepšenie však neprichádzalo. Dôvodom boli zrejme zisky, emotívny obsah totiž používateľa zapája väčšmi. Až zistenie, že používatelia nemajú radi, ak majú ich príspevky nahnevané reakcie, presvedčili manažment na úpravu.

Odraz v spoločnosti

Vďaka zníženiu počtu zobrazení príspevkov označených nahnevaným emotikonom sa skutočne znížilo aj vystavenie používateľov dezinformáciám a násilnému obsahu. Zaujímavé bolo, že tieto úpravy nakoniec sociálnej sieti nijakým spôsobom neznížili zisky. Uskutočnil sa teda ďalší zbytočný sociálny experiment Facebooku na troch miliardách ľudí.
Roky aktívnej manipulácie emóciami na Facebooku však v spoločnosti zanechali svoje stopy aj mimo online prostredia. Dá sa pozorovať, že hejt prenikol hlboko do ľudskej komunikácie na najväčšej sociálnej sieti a stal sa takpovediac normou. Tou však v žiadnom prípade nemôže byť.
Sme svedkami toho, ako vedúce osobnosti rôznych krajín hejt bežne používajú vo svojich prejavoch. Od populistických lídrov si pomaly zvykáme na prejavy sexizmu, xenofóbie či osobné útoky na skutočné či domnelé motivácie ľudí.

Ako z toho von

Na úrovni jednotlivcov nie je až taký problém sa hejtu na Facebooku vyhnúť. Stačí prestať sledovať niektoré stránky a priateľov, prípadne na hejt nereagovať. Samotná ignorácia však tento problém nerieši. Práve naopak, bez opačných názorov sa agresori v nenávisti vzájomne utvrdzujú. Aj z tohto dôvodu sme písali o tom, že algoritmy veľkých platforiem potrebujú nezávislý dohľad, ktorý presadzuje aj Európska komisia.
Existuje množstvo iniciatív a zoskupení, ktoré sa snažia obmedziť negatívne dôsledky hejtu v online prostredí. Sú to predovšetkým nezávislí, dôveryhodní a osvedčení overovatelia nežiaduceho obsahu (tzv. trusted reporters), výskumníci zo spoločenských, ale aj technických vied či neziskové organizácie. V krajných prípadoch je to aj legislatíva, ktorá definuje právne následky šírenia hejtu. V Kempelenovom inštitúte inteligentných technológií sa venujeme aj možnostiam, ako hejt automaticky nájsť pomocou technológií založených na umelej inteligencii. No o tom už bude ďalší článok v nasledujúcom vydaní Quarku.

Andrea Hrčková
Kempelenov inštitút inteligentných technológií
Anglickú verziu článku si môžete prečítať tu.