You are currently viewing Kto stanovuje pravidlá? Moc, autorita a ovládanie v digitálnom priestore

Kto stanovuje pravidlá? Moc, autorita a ovládanie v digitálnom priestore

Keď otvoríme aplikáciu sociálnych médií, prihlásime sa do fóra alebo nahráme obrázok či video, môžeme nadobudnúť pocit, že vstupujeme na verejné námestie a slobodne sa vyjadrujeme pred celým svetom. Digitálne priestory však nie sú „verejné“ v tom istom zmysle ako ulica alebo iné verejné priestranstvá. Ide o súkromné priestory, ktoré sú formované kombináciou pravidiel platforiem, systémov moderovania, skrytých technických rozhodnutí a čoraz častejšie aj zákonov, ktorých cieľom je zabezpečiť zodpovednosť týchto platforiem. Schopnosť pochopiť, kto vytvára pravidlá, je základom digitálneho občianstva. Je to dôležité najmä pre mladých ľudí, aby sa naučili vnímať online svet kriticky a uvedomovali si, že digitálna realita je úzko prepojená s fungovaním spoločnosti a jej pravidlami.

Pravidlá platformy: zákon, s ktorým súhlasíme (aj keď sme ho nikdy nečítali)

Väčšina online platforiem reguluje správanie používateľov prostredníctvom podmienok používania a pravidiel komunity, ktoré používatelia však často nečítajú v plnom rozsahu a akceptujú bez pochybností. Nejedná sa o demokratické zákony, ale o zmluvné pravidlá, ktoré vypracovali spoločnosti a ktoré by mali všetci používatelia dodržiavať. Platformy ich však môžu rýchlo aktualizovať, flexibilne interpretovať a nerovnomerne vynucovať, často vo veľkom rozsahu a len prostredníctvom jednoduchého oznámenia.

Platformy tak fungujú ako tvorcovia pravidiel aj ako ich dozorcovia. Používateľ môže byť odstránený, „tieňovo zablokovaný“ (tzv. „shadow ban”, keď je používateľova viditeľnosť výrazne obmedzená bez varovania), demonetizovaný alebo môže byť jeho obsah odstránený na základe pravidiel, ktoré majú byť jasné a prísne, ale často sú kultúrne podložené, ťažko napadnuteľné a pomerne vágne (napríklad ako „škodlivý obsah“). Preto mnoho skupín občianskej spoločnosti požaduje minimálne štandardy spravodlivosti a transparentnosti pri rozhodovaní o moderovaní, vrátane jasnejších vysvetlení a odvolaní. Používatelia internetu by si preto mali byť vedomí toho, čo je v priestoroch, ktoré používajú, povolené alebo zakázané, a mali by rozumieť svojim právam a povinnostiam.

Moderovanie obsahu: ľudia, algoritmy a miera

Pod moderovaním obsahu si často predstavujeme osobu, ktorá kontroluje príspevky a na základe kontextu prijíma „správne” rozhodnutia. V skutočnosti je však moderovanie zvyčajne kombinovaným systémom: automatizovaná detekcia označuje obsah, potom ľudia kontrolujú niektoré prípady a zásady a spolu s nástrojmi na riadenie pracovných postupov určujú, čo má prioritu. V širokom meradle sa populárne platformy vo veľkej miere spoliehajú na automatizáciu a selekciu, čo môže viesť k predvídateľným problémom: falošným pozitívam (odstránenie legitímneho obsahu), falošným negatívam (schválenie škodlivého obsahu) a nejednotnému vynucovaniu v rôznych jazykoch a komunitách.

Predsudky a zaujatosti môžu tieto procesy výrazne ovplyvňovať, najmä ak sú algoritmy zle navrhnuté alebo vyškolené na základe zaujatých údajov a ak ľudia vykonávajúci moderovanie dovolia, aby ich rozhodnutia ovplyvňovali ich osobné vnímanie alebo kultúrne domnienky. V dôsledku toho sú menšinové skupiny častejšie vystavené prísnejšiemu moderovaniu, opakovaným sankciám a častejším zákazom, čo obmedzuje ich viditeľnosť online a narúša spravodlivosť a rovnosť.

Rozhodnutia moderátorov ovplyvňujú to, čo je viditeľné a propagované, čo sa stáva „normálnym“ a kto sa cíti dostatočne bezpečne na to, aby sa zúčastňoval v určitých prostrediach. A pretože moderovanie je čiastočne automatizované, vynucovanie pravidiel sa môže stať menej podobným súdnej sieni a viac podobným strojom na riadenie rizík, kde skupina prijíma konkrétne kódexy a normy výlučne s cieľom vyhnúť sa zákazom alebo hláseniam, čím obmedzuje slobodu prejavu a falšuje bežné správanie a jazyk.

 

Neviditeľné mocenské štruktúry: to, čo nevidíme, formuje to, čomu veríme

Aj keď obsah nie je odstránený, platformy riadia pozornosť prostredníctvom dizajnu a systémov hodnotenia: odporúčania, zoznamy trendov, panely „odporúčané pre vás“ a reklamné nástroje. Tieto voľby určujú, ktoré hlasy sú amplifikované a ktoré myšlienky získavajú na popularite. V tomto zmysle nejde len o odstránenie obsahu, ale aj o organizovanie viditeľnosti.

Z tohto dôvodu sa diskusie o spravovaní stále viac zameriavajú na pozorovateľnosť: schopnosť odborníkov, regulačných orgánov a verejnosti pochopiť, ako moderovanie a hodnotenie fungujú v praxi, nielen v teórii. Napríklad zákon EÚ o digitálnych službách (DSA) zavádza povinnosti v oblasti transparentnosti, ktorých cieľom je zvýšiť kontrolovateľnosť rozhodovania platforiem.

Digitálna regulácia: keď sa pravidlá platforiem stretnú s verejným právom

V posledných rokoch vlády jednotlivých krajín prešli od „nezainteresovaného“ prístupu k prísnejšej regulácii súkromných platforiem. V EÚ stanovuje zákon o digitálnych službách (nariadenie (EÚ) 2022/2065) odstupňované povinnosti pre online sprostredkovateľov a vyššie povinnosti pre veľmi veľké online platformy, vrátane posudzovania rizík, podávania správ o transparentnosti a mechanizmov odvolania pre používateľov.

Konkrétnym príkladom je databáza transparentnosti DSA spravovaná EÚ, ktorá vyžaduje, aby platformy poskytovali „odôvodnenia“ určitých rozhodnutí o moderovaní obsahu, čo je pokus o presadenie jasnejšieho odôvodňovania a zodpovednosti platforiem.

Správa však nie je len o zákonoch. Zahŕňa širší ekosystém: normy, dozorné skupiny, sprístupnenie výskumu, podávanie správ o transparentnosti ako aj tlak verejnosti. Napríklad, v roku 2021 OECD analyzovala podávanie správ o transparentnosti ako postup budovania dôvery, pričom zároveň poukázala na pretrvávajúce medzery a nerovnomernú kvalitu.

Čo to znamená pre digitálne občianstvo a občiansku osvetu

Pre študentov je kľúčovým poznatkom toto: online priestory sú riadené viacerými úrovňami autority:

  1. Platformová autorita (pravidlá + systémy vynútiteľnosti)
  2. Technická autorita (algoritmy, dizajn, obchodné stimuly)
  3. Verejná autorita (zákony, regulačné orgány, súdy)
  4. Sociálna autorita (normy komunity, tlak rovesníkov, kolektívne konanie)

Vzdelávanie v oblasti digitálneho občianstva je účinnejšie, keď sa jednotlivci pýtajú: Komu tieto pravidlá prospievajú? Kto je chránený? Kto je umlčaný? Aké možnosti existujú na odvolanie sa, nahlásenie alebo napadnutie rozhodnutí? Na podporu kritického myslenia sú veľmi účinné hry, ako napríklad videohry a únikové hry projektu DigiCity, v ktorých sa hráči stávajú súčasťou zložitých digitálnych a občianskych situácií, pretože umožňujú študentom zažiť spravovanie ich online situácií bezpečným a kontrolovaným spôsobom prostredníctvom orientácie v systémoch pravidiel, stretávania sa s kompromismi a zamyslenia sa nad spravodlivosťou, rovnosťou a etickým rozhodovaním.

Stručne povedané, pravidlá digitálneho života sa vytvárajú v zasadacích miestnostiach, zakódovávajú sa do systémov a čoraz viac ich formujú regulácie. Stať sa digitálnym občanom znamená naučiť sa nielen ako sa správať online, ale aj ako funguje online moc a ako reagovať s rešpektom, etikou a kritickým myslením.

 

Zdroje: