Facebook papers a dezinformácie

Koncom októbra minulého roku začali niektoré zahraničné médiá publikovať sériu investigatívnych článkov, ktoré sa zaoberali problematickými praktikami sociálnej siete Facebook. V súčasnosti tieto články poznáme ako Facebook files alebo Facebook papers.

Aby sme lepšie pochopili súvislosti, musíme sa vrátiť do mája 2017, keď denník The Guardian uverejnil sériu článkov s názvom Facebook files. Tie boli založené na výpovediach whistleblowerov a opisovali ich skúsenosti s prácou vo Facebooku (teraz už platforma Meta, pre lepšiu zrozumiteľnosť budeme v článku hovoriť o Facebooku) na pozícii moderátorov obsahu. Títo zamestnanci prejavili svoju nespokojnosť s nevhodnými pracovnými podmienkami v spoločnosti. Išlo o nedostatočnú prípravu na vykonávanie tejto práce, ale aj o psychologické traumy spôsobené tým, že sú vystavení extrémnemu a škodlivému obsahu. Uvedené negatívne skúsenosti zamestnancov poukázali na širší problém Facebooku v súvislosti s moderovaním obsahu, ktorý je uverejňovaný na sociálnej sieti. Problémy súvisiacie s Facebookom zvýraznil aj škandál okolo spoločnosti Cambridge Analytica, ktorý naplno odhalil zneužívanie sociálnych sietí aj na politické účely.

Uniknuté dokumenty

V septembri 2021 na povrch vyplávali ďalšie kontroverzie týkajúce sa problematických praktík sociálnych sietí. Tentoraz to bol denník The Wall Street Journal, ktorý začal ako prvý publikovať sériu článkov pod spoločným názvom Facebook files. Jadrom tejto série bolo 16 článkov, ktoré vychádzali z uniknutých interných dokumentov a výskumných údajov spoločnosti Facebook. Všetky tieto dokumenty sa v médiách začali kolektívne označovať ako Facebook papers. V čase zverejnenia ešte nebolo jasné, ako a od koho tieto dokumenty unikli. No krátko na to, 3. októbra, oznámila Frances Haugenová, bývalá zamestnankyňa Facebooku, že tým záhadným whistleblowerom bola ona a uviedla aj svoje dôvody, keď otvorene priznala, že: Došlo ku konfliktu záujmov medzi tým, čo bolo dobré pre verejnosť, a tým, čo bolo dobré pre Facebook. A Facebook sa znova a znova rozhodol pre svoje vlastné záujmy, a to viac zisku.
Uniknuté dokumenty, ktoré odtajnila F. Haugenová, obsahujú nielen interné prezentácie či výskumné štúdie, ale aj diskusné vlákna zamestnancov a strategické poznámky spoločnosti Facebook. Neskôr boli Facebook papers sprístupnené konzorciu medzinárodných tlačových agentúr, ktoré na základe získaných údajov začali podrobne informovať o problematických postupoch Facebooku. Rozsah tém, ktoré sa spomínajú vo Facebook papers je široký – od údajnej neschopnosti Facebooku moderovať problematický obsah v niektorých jazykoch a krajinách až po údajné využívanie Facebooku ilegálnymi skupinami, napríklad pašerákmi ľudí. My sa však zameriame na otázky, ktoré sa týkajú šírenia dezinformácií a moderovania obsahu na základe algoritmov umelej inteligencie.

Nedotknuteľné účty

V tomto ohľade jedným z najzávažnejších zistení bolo, že v rámci moderovania škodlivého obsahu Facebook vytvoril VIP triedu svojich používateľov, tzv. XCheck. Do XChecku triedy patrili napríklad celebrity, politici, ale aj niektorí novinári. Pre tieto vysokopostavené účty sa Facebook rozhodol nastaviť vyššiu úroveň ochrany, aby zabezpečil, že pri ich posudzovaní nevznikne zbytočná negatívna mediálna pozornosť. Vo výsledku sa však vytvorila kategória nedotknuteľných účtov, pre ktoré neplatili štandardné pravidlá používateľa sociálnej siete. Inými slovami, ak bol ich obsah nahlásený inými používateľmi pre porušenie podmienok Facebooku, zvyčajne nenasledovalo zo strany spoločnosti žiadne ďalšie posúdenie ani sankcie. Databáza XCheck pritom nebola zanedbateľná, obsahovala najmenej 5,8 milióna VIP používateľov, ktorí v prípade šírenia problematického obsahu nečelili žiadnym dôsledkom.

Maximalizácia pozornosti

V súčasnosti už nie je tajomstvo, že obchodný model Facebooku funguje na základe ekonomiky pozornosti. Pre obsahovú platformu, akou je Facebook, je preto prvoradé udržať si pozornosť používateľa čo najdlhšie. Na to je potrebné prezentovať obsah, ktorý je pre používateľa zaujímavý. O to sa starajú odporúčacie algoritmy Facebooku, ktoré rozhodujú o tom, aký obsah sa používateľom sociálnej siete zobrazí. Do rozhodovania algoritmu môžu vstupovať faktory ako popularita obsahu, osobné preferencie používateľa, ale aj emocionalita, kontroverznosť obsahu či emocionálny stav používateľa.
Algoritmus sociálnej siete môže zobrať do úvahy viac ako 10 000 rôznych parametrov, ktoré následne posudzuje tak, aby poskytol používateľovi personalizovaný obsah, ktorý udrží jeho pozornosť po čo najdlhšiu dobu. Konkrétne hodnoty a váhy priradené týmto parametrom nie sú verejne známe, čím sa algoritmus stáva nepriehľadným a netransparentným.
Z Facebook papers navyše vyplýva, že od roku 2017 algoritmus hodnotenia Facebooku považoval reakcie používateľov prostredníctvom emotikonov (napr. emotikon hnevu) za päťkrát hodnotnejšie ako reakcie prostredníctvom bežných lajkov.
Pritom aj samotní zamestnanci si uvedomovali potenciálne riziká takéhoto rozhodnutia. Napríklad to znamená, že kontroverznejší obsah, ktorý vyvoláva nahnevané reakcie, sa bude po sociálnej sieti šíriť rýchlejšie a dostane sa k väčšiemu počtu používateľom ako obsahovo hodnotnejší, ale nekontroverzný obsah. Z uniknutých dokumentov sa dá predpokladať, že spoločnosť Facebook si bola vedomá skutočnosti, že kontroverzný obsah bude s väčšou pravdepodobnosťou obsahovať dezinformácie, toxické či nekvalitné správy, no vzhľadom na vyšší záujem používateľov sledovať takéto správy nemala potrebu rázne zakročiť.

Algoritmy v úlohe moderátora

Facebook verejne deklaroval, že na odhaľovanie a moderovanie problematického obsahu na svojej platforme používa algoritmy umelej inteligencie. Z uniknutých dokumentov však vyplýva, že úspešnosť tohto automatizovaného moderovania bola prinajmenšom diskutabilná. Dokumenty naznačujú, že ich algoritmy mali často problém správne označiť aj extrémny obsah, ako sú videá s násilnými streľbami. V skutočnosti algoritmy umelej inteligencie odstraňovali len 0,6 % obsahu, ktorý porušuje zásady a pravidlá Facebooku proti násiliu a podnecovaniu k nemu.
Odozvy na kontroverziu vyvolanú zverejnením Facebook papers a Facebook files boli rôzne. Na jednej strane zazneli hlasy, že takéto praktiky nie sú vôbec prekvapujúce a dali sa od spoločnosti očakávať. Iné vyjadrili nádej, že príklady osobnej odvahy whistleblowerov ako F. Haugenovej, ale aj ďalších nespokojných zamestnancov majú možnosť ovplyvniť pozíciu Facebooku v demokratickej spoločnosti. Vo svojej výpovedi v Európskom parlamente začiatkom novembra 2021 F. Haugenová ocenila zákonodarcov EÚ a ich úsilie o zvýšenie online bezpečnosti a transparentnosti algoritmov prostredníctvom návrhu Aktu o digitálnych službách (DSA). Haugenová však poukázala aj na niektoré problematické aspekty a medzery v DSA. Patria medzi ne výnimka pre tzv. spravodajské médiá alebo výnimka z obchodného tajomstva, ktoré by mohli sťažiť boj proti nenávistným prejavom a dezinformáciám či obmedziť úsilie o sprehľadnenie odporúčacích algoritmov sociálnych sietí.

Potreba externých auditov

Kauzy ako Facebook papers prinášajú do diskusií o regulácii sociálnych sietí niekoľko kľúčových poznatkov. Poukázali na to, že Facebook uprednostňoval čo najvyššiu interakciu používateľov s platformou dokonca aj v prípade, že by to znamenalo propagáciu nevhodného obsahu. Okrem toho sa ukázalo, že vo veľkej časti sveta nedokáže platforma účinne moderovať obsah a že mnohé verejné vyhlásenia Facebooku sú v rozpore so skutočnou realitou, ktorú potvrdzujú aj ich vlastné výskumné výsledky a interná komunikácia medzi zamestnancami.
Facebook je pritom jednou z platforiem, na ktorej je pre výskumníkov v súčasnosti takmer nemožné získať prístup k dátam a vykonať akýkoľvek externý audit. Je potom veľmi ťažké spoľahlivo overiť platnosť jeho verejných tvrdení o tom, ako efektívne bojuje proti dezinformáciám a problematickému obsahu, ak nedokážeme napríklad ani zmerať, ako často bol konkrétny (dezinformačný) obsah používateľom odporúčaný. Zverejnenie podrobných analýz vrátane výskumných plánov a štatistických príloh výskumu, ktorý Facebook vykonával interne, mohlo byť obzvlášť prospešné pre výskumníkov a spravodajské organizácie, ktoré boli vynechané z analýzy uniknutých dokumentov, najmä pre tie na Slovensku a v iných postkomunistických krajinách, kde je dlhodobo odolnosť proti dezinformáciám veľmi nízka. Aj preto výskumníci považujú práve externé audity sociálnych sietí a online platforiem za jeden zo základných nástrojov na zvýšenie zodpovednosti ich prevádzkovateľov k spoločnosti.

Adrián Gavorník
Kempelenov inštitút inteligentných technológií (KInIT)
Anglickú verziu článku si môžete prečítať tu.
V spolupráci s KInIT-om vám budeme prinášať zaujímavé články z oblasti inteligentných technológií.