O umelej inteligencii (AI) počujeme v súčasnosti azda z každej strany. Informácie o tom, čo už systémy AI dokážu, nás neprestávajú udivovať. Zároveň rastú obavy z toho, kam nás vývoj AI zavedie a čo to urobí s nami – so spoločnosťou a svetom, v ktorom žijeme.
Pokiaľ ide o dlhodobé dôsledky, niektorí experti už prejavili svoje obavy. Tieto dôsledky je však možné len čiastočne predvídať. To, čo nemusíme špekulatívne odhadovať, sú problémy a výzvy, ktorým v súvislosti s AI čelíme už teraz, a tým by sme sa mali neodkladne venovať.
Prepájanie odborov
Problémy späté s umelou inteligenciou nie sú vždy iba technického charakteru, ale majú aj omnoho širší spoločenský rozmer. Nie vždy im dokážeme porozumieť len pomocou technických poznatkov. Každá technológia je totiž situovaná v určitom sociokultúrnom kontexte, ktorý ju rôznymi spôsobmi tvaruje aj problematizuje.
V Kempelenovom inštitúte inteligentných technológií (KInIT) si uvedomujeme, že systémy AI vyvolávajú čoraz viac otázok, ako usmerniť ich výskum a vývoj spoločensky zodpovedným smerom, a to aj za prispenia odborníčok a odborníkov z netechnických odborov. V kontexte nášho výskumu a priemyselných spoluprác máme skúsenosť, že bez interdisciplinárneho prístupu je veľmi náročné správne uchopiť a adresovať širšie súvislosti inteligentných technológií, ako aj problémy, ktoré sú zo svojej podstaty netechnického charakteru.
Interdisciplinárny prístup znamená, že ľudia z rôznych vedných oblastí spoja svoje sily v záujme riešenia jedného konkrétneho problému. Tvorivé spájanie pri skúmaní a vyvíjaní umelej inteligencie sa bežne deje medzi technickými a prírodnými vedami. V biochémii pomáha AI pri mapovaní 3D tvarov ľudských bielkovín, ktoré môžu pomôcť pri výskume chorôb či navrhovaní nových liekov. V astronómii je AI užitočná pri hľadaní nových objektov vo vesmíre. V meteorológii sa používa na stanovenie presnejšej predpovede počasia.
Rodové predsudky
Prieniky umelej inteligencie s humanitnými a spoločenskovednými odbormi sú však zriedkavejšie a menej známe. Je to škoda, keďže sa ukazuje, že práve v takýchto podobách spolupráce spočíva významná pridaná hodnota. Aj tu AI pomáha výskumníčkam a výskumníkom napríklad pri analýze a rekonštrukcii historických textov či pri spracovaní záznamov z terapeutických sedení. Odbory, ako napríklad filozofia, etika, psychológia, sociológia a podobne, nám taktiež môžu výrazne pomôcť pri aktívnom riešení problémov s umelou inteligenciou. Najmä takých, ktoré sa týkajú ľudských hodnôt, dobrého fungovania spoločnosti či ochrany životného prostredia. Vďaka nim si lepšie uvedomujeme, že technológie umelej inteligencie majú slúžiť ľuďom, a nie naopak.
Jedným z mnohých príkladov interdisciplinárnej spolupráce, keď humanitné a spoločenskovedné odbory aktívne ovplyvňujú technický výskum, je aj aktuálne prebiehajúci projekt v KInIT-e s názvom Spoločenské predsudky v slovenskej AI. Projekt sa zameriava na problematiku rodových predsudkov v systémoch AI pracujúcich so slovenčinou. Ide o systémy, ktoré sú napríklad súčasťou jazykových prekladačov ako Google Translate, DeepL, Microsoft Translator či rôznych nástrojov prediktívneho písania, s ktorými sa bežne stretávame v našich počítačoch, telefónoch a tabletoch.
Problém zovšeobecnenia
Prečo má štúdium rodových predsudkov vo vzťahu k podobným systémom AI zmysel? Rodové predsudky sa v oblasti jazyka týkajú výpovedí o ženách a mužoch, ktorým sa na základe mylného zovšeobecnenia pripisujú určité predpokladané vlastnosti, charakterové črty, vhodné profesie, miesta v živote a pod. Príkladmi takýchto predsudkov môžu byť tieto tvrdenia: Ženy sú hysterické a emocionálne alebo Muži sú disciplinovaní a rozumní.
Zo skúseností vieme, že takéto tvrdenia vo všeobecnosti jednoducho neplatia. Ak sa však objavujú v jazyku pričasto, tak sa tým posilňujú klamlivé predstavy o tom, aké ženy a akí muži údajne sú, prípadne akými by mali byť. A nielen to. Keďže máme sklon rozhodovať sa a konať na základe našich predstáv, rodové predsudky môžu viesť ku konaniu, ktoré bude ovplyvnené vžitými predstavami o ženách a mužoch bez ohľadu na to, či správnymi, alebo nesprávnymi. Problém je to najmä vtedy, keď tieto predstavy a na nich založené konanie nezodpovedajú realite. Rodové predsudky tak prispievajú k formovaniu skreslených pohľadov na svet, ktoré životy žien a mužov nerobia ani lepšími, ani šťastnejšími a už vôbec nie pravdivými a autentickými.
Prebraté stereotypy
Systémy umelej inteligencie, ktoré spracúvajú jazyk, sa zvyčajne učia vykonávať zadané úlohy na veľkom množstve dát. Z toho, čo sme uviedli, vyplýva, že dáta od ľudí úplne prirodzene obsahujú rôzne predsudky. Tie sa potom prenesú do daných systémov, kde sa môžu pri ich používaní pomerne ľahko ďalej šíriť, a tým aj posilňovať už existujúce predsudky o ženách a mužoch v spoločnosti. Ak chceme, aby systémy AI spĺňali naše požiadavky nielen na úrovni matematicko-štatistickej presnosti, ale aj na základe spoločensky uznávaných hodnôt spravodlivosti a férovosti, tak popri matematike a štatistike nesmie byť zanedbaná ani etika.
K hlbšiemu porozumeniu samotného problému rodových predsudkov a stereotypov v AI sa ako veľmi žiaduca ukázala spolupráca s ľuďmi, ktorí sa tejto téme odborne venujú z viacerých hľadísk, pričom pohľad informatika predstavuje len jeden z nich. V KInIT-e sme napríklad zrealizovali expertný workshop, ktorého sa zúčastnili profesionáli zaoberajúci sa etikou, spracovaním prirodzeného jazyka, ako aj expertky na rodovú rovnosť (rodovo citlivý jazyk). V takýchto interdisciplinárnych rozhovoroch potom prebieha výmena vedomostí a skúseností v zaujímavých a neobvyklých kombináciách. Výsledkom môžu byť rôzne interdisciplinárne motivované usmernenia, ako metodicky správne pristúpiť k skúmaniu daného problému, na čo sa zamerať a čomu sa vyhnúť, či rôzne inšpiratívne pohľady.
Identifikácia aj odstraňovanie
V našom prípade sme v spolupráci s expertkami na rodovú rovnosť napríklad vytvorili základ zoznamu rodových stereotypov, ktorý v spolupráci s prekladateľkami z akademickej sféry a ďalšími prispievateľmi dát ďalej rozširujeme o nové varianty a formulácie. Takýto zoznam bude obsahovať tisícky rôznych príkladov problematických viet. Na základe zoznamu potom vieme testovať systémy AI, pri ktorých máme podozrenie, že môžu pri prekladoch prejavovať stereotypné fungovanie. Nejde však iba o identifikáciu stereotypov. Podobný zoznam sa dá rovnako použiť aj v budúcnosti pri odstraňovaní rodových predsudkov zo systémov AI, ktoré pracujú so slovenčinou a na ktoré bežné metódy odstraňovania predsudkov orientované na veľké svetové jazyky nemusia byť citlivé.
Možno sa vám podobné snahy zdajú byť malé v porovnaní s problémami, ako je vplyv umelej inteligencie na trh práce či životné prostredie, ľudskú tvorivosť alebo funkčnosť demokratických systémov. Ako spoločnosť, samozrejme, potrebujeme zvažovať aj rôzne strednodobé a dlhodobé dôsledky vývoja a používania inteligentných technológií v našej spoločnosti, preto venujeme energiu a čas aj výskumom dôsledkov generatívnej AI, najmä v súvislosti s tvorbou a šírením dezinformačného obsahu. Aj v tejto oblasti má interdisciplinarita svoje neoceniteľné miesto. To je však už iná téma. V každom prípade, tak ako kdekoľvek inde, aj pri systémoch AI platí, že naša budúcnosť s nimi bude taká, akú si ju pripravíme.
Štefan Oreško
Kempelenov inštitút inteligentných technológií
