You are currently viewing Algokracia

Algokracia

Tento článok je založený na knihe Algocratie, napísanej Arthurom Grimonpontom, menovaným spravodajcom Parížskej charty o umelej inteligencii a žurnalistike. Zároveň podporuje organizáciu Reportéri bez hraníc (RSF) v jej úsilí o reguláciu umelej inteligencie.

Extraktivizmus pozornosti

Vo svete, kde sú informácie všadeprítomné, sa naša pozornosť stala vzácnym a cenným zdrojom. Ako v roku 1971 predpovedal politológ Herbert Simon, „hojnosť informácií znamená […] nedostatok toho, čo informácie pohlcujú, a to, čo informácie pohlcujú, je zrejmé: je to pozornosť ich príjemcov. Hojnosť informácií teda spôsobuje nedostatok pozornosti.“ Táto predpoveď je pravdivá v ére sociálnych sietí a algoritmov, ktoré riadia náš prístup k informáciám.

Extraktivizmus, prax využívania nevyužívaných zdrojov s cieľom premeniť ich na komoditu, sa teraz uplatňuje vo virtuálnom prostredí s rovnakou dravosťou ako v reálnom svete. Naša pozornosť sa stala základom pre reklamné impériá najmocnejších spoločností planéty: Alphabet (Google a YouTube) a Meta (Facebook a Instagram). Títo digitálni giganti získavajú väčšinu svojich príjmov z reklamy a tvrdo súperia o získanie nášho voľného času.

Ekonomika pozornosti

Ekonomika pozornosti nie je novým fenoménom; vznikla ešte pred sociálnymi sieťami a je obchodným modelom mnohých komerčných novín, rozhlasových staníc a televíznych kanálov. Sociálne siete však majú bezkonkurenčnú schopnosť poznať, zacieliť a ovplyvniť naše správanie s cieľom upútať našu pozornosť. Ich hlavnou devízou sú odporúčacie algoritmy, systémy umelej inteligencie, ktoré využívajú naše digitálne stopy na predikciu toho, ktorý obsah v danom okamihu s najväčšou pravdepodobnosťou zaujme našu pozornosť.

Tieto algoritmy umožnili sociálnym sieťam stať sa hlavným používateľom webu z hľadiska stráveného času a počtu používateľov. V priemere strávime dve a pol hodiny denne prechádzaním platforiem, ako sú Facebook, YouTube, TikTok, Instagram a Snapchat. Len na YouTube sa denne pozerá viac ako miliarda hodín videí, z ktorých tri štvrtiny sú odporúčané algoritmami.

Komodifikácia spoločenského života

Konkrétne ide o niekoľko algoritmov riadených súkromnými spoločnosťami, ktoré určujú prístup k informáciám pre polovicu ľudstva. Vedúci predstavitelia týchto spoločností prezentujú svoje platformy ako „globálne námestia“, ale skutočnosť je prozaickejšia: fungujú ako autoritárske režimy vedené autokratmi. S cieľom rozšíriť svoje impériá títo lídri organizujú komodifikáciu nášho spoločenského, politického a kultúrneho života bez ohľadu na naše duševné zdravie, právo na spoľahlivé informácie alebo demokraciu.

Na Západe poskytujú vyhľadávače a sociálne siete približne dve tretiny publika internetových spravodajských stránok. Maria Ressa, filipínska novinárka a nositeľka Nobelovej ceny za mier za rok 2021, uviedla: „Naše životy sú vtiahnuté do databázy, organizované umelou inteligenciou a potom predávané tomu, kto ponúkne najviac. Tento ultraziskový mikrotargeting je navrhnutý tak, aby podkopával ľudskú vôľu.“

Dôsledky ekonomiky pozornosti

Ekonomika pozornosti systematicky uprednostňuje lži, senzácie a nenávisť, pretože tento typ obsahu si pozornosť lepšie udrží. Na sociálnych sieťach sa nepravdivé informácie šíria šesťkrát rýchlejšie ako pravdivé a algoritmy nás rozdeľujú a radikalizujú. Uväznujú nás v takzvaných komorách ozveny („echo chambers“), digitálnych mikrokozmoch, kde máme prístup len k informáciám, ktoré potvrdzujú naše predsudky a názory. Naše zdieľané poznatky a presvedčenia sa rozpadajú a s nimi aj spoločnosť.

Hannah Arendtová povedala: „Keď vám všetci neustále klamú, výsledkom nie je to, že týmto klamstvám veríte, ale to, že už neveríte ničomu. […] A s takýmito ľuďmi si môžete robiť, čo chcete.“

Informačná bublina

Vďaka stále sofistikovanejším algoritmom digitálne platformy ponúkajú lákavý, zábavný a pútavý obsah, ktorý sa nazýva „kognitívne cukríky“. Nevedomky sa pohybujeme po sociálnych sieťach v informačnej bubline vytvorenej na mieru na základe predtým zhromaždených údajov o našom správaní. Používatelia sa ocitajú uväznení v izolovaných sférach informácií a názorov, ktoré posilňujú ich vlastné presvedčenia.

Tento fenomén je založený na rozsiahlom využívaní našich biologických chúťok a psychologických predsudkov, ako je napríklad konfirmačný sklon, averzia voči riziku, sklon k sebahodnoteniu a efekt jednoduchého vystavovania. Sociálne platformy automatizujú využívanie týchto slabostí v masovom meradle, čo vedie k polarizácii, radikalizácii a masovej dezinformácii spoločnosti.

Čo robiť s informačným chaosom?

Tvárou v tvár informačnému chaosu sa jedno odporúčanie stalo konsenzom: vzdelávanie v oblasti mediálnej a informačnej gramotnosti. Prenesenie zodpovednosti z nadnárodných korporácií, ktoré štruktúrujú trh s informáciami, na jednotlivcov, ktorí ich konzumujú, však nie je realizovateľným riešením. Spoločenské problémy sa nedajú vyriešiť prostredníctvom individuálnej cnosti. Informovanosť vedie k štrukturálnym zmenám len vtedy, ak vyústi do kolektívneho konania.

Európa sa začala zaoberať týmto problémom prostredníctvom nedávneho prijatia záväzných zákonov, ako je zákon o digitálnych službách a zákon o umelej inteligencii. Hoci sú tieto zákony na dobrej ceste, nie sú dostatočne účinné. Napriek tomu sú vytvorené základy pre demokratickú reguláciu platforiem.

Významným projektom v tejto oblasti je Tournesol, iniciatíva zameraná na vytvorenie demokratického a etického informačného systému. Tournesol umožňuje používateľom hodnotiť a posudzovať online obsah na základe kritérií, ako sú spoľahlivosť, relevantnosť a kvalita. Agregáciou týchto hodnotení ponúka Tournesol alternatívu k tradičným odporúčacím algoritmom, pričom zdôrazňuje transparentnosť a kolektívnu účasť. Tento projekt ukazuje, ako môžu riešenia založené na kolektívnej inteligencii prispieť k spoľahlivejším a vyváženejším informáciám.

Na ceste k informačnej demokracii

Autor navrhuje „meta-riešenie“ tohto „meta-problému“: prísnu reguláciu sociálnych platforiem zo strany Európskej únie a jej členských štátov a následné vyčlenenie značných prostriedkov na vývoj, zavedenie a prevádzku demokratického systému odporúčaní založeného na verejnom blahu.

„Je takýto scenár reálny?“ pýta sa autor. „Vojna o pozornosť dnes stojí životy, oslabuje naše demokracie a spôsobuje, že nie sme schopní inteligentne reagovať na súčasné hrozby. Ukončenie tejto vojny o pozornosť si nevyžaduje obetovanie slobody alebo rozsiahle vojenské operácie, ale jednoducho politickú vôľu.“

Zdroje: