Předchozí (6) - Obsah - Další (8) - Příspěvek na kávu

Temná stránka digitálního věku

Pohled na klíčové hrozby a možnosti adaptace

Algoritmická manipulace a digitální totalita

Filter bubbles a echo chambers

Současné internetové platformy, zejména sociální sítě a vyhledávače, využívají složité algoritmy, které sledují chování uživatelů. Na základě minulých interakcí (například to, co „lajkují“, co sdílejí či vyhledávají) jim potom cíleně nabízejí obsah, který pravděpodobně znovu zaujme jejich pozornost. Tento přístup, byť je z komerčního hlediska pochopitelný (lze lépe prodávat reklamu), s sebou nese zásadní společenské důsledky.

1. Personalizace obsahu

Uzavřené bubliny: Uživatelé dostávají informace převážně z okruhu lidí, se kterými souhlasí. Postupně se utvrzují ve svých názorech, přičemž protichůdné argumenty zůstávají na okraji jejich pozornosti.
Ztráta kritického myšlení: Pokud se člověk setkává jen s jedním typem informací, může snadno podlehnout dojmu, že jeho pohled je univerzálně správný. Tím se snižuje ochota debatovat s oponenty a rozvíjet vlastní argumentaci.

2. Následky uzavřených bublin

Radikalizace a extremismus: Při dlouhodobém setrvávání v echo chamber (komunitě s uniformními názory) se mohou postoje uživatelů posouvat směrem k extrémnější formě (např. konspirační teorie, politický extremismus).
Polarizace společnosti: Lidé se rozdělují do znesvářených táborů, které komunikují pouze mezi sebou. Tím roste riziko konfliktů a klesá schopnost vyjednávat kompromisy.

3. Cílená manipulace

Zájmové skupiny a politická propaganda: Politické kampaně mohou pracovat s přesnými údaji o uživatelích a nabízet jim obsah, který kalkuluje s jejich strachy, předsudky či hodnotami – to vše v rámci uzavřené bubliny, do níž nemají protichůdné názory prakticky přístup.

Digitální cenzura a kontrola informací

Hlavní online komunikační platformy (např. Facebook, Twitter, YouTube, Google vyhledávač) v podstatě plní roli brány k veřejnému prostoru. Mají proto značnou moc ovlivňovat, co se k uživatelům dostane a co zůstane skryto.

1. Interní pravidla a moderace

Odstraňování „škodlivého“ obsahu: Algoritmy i moderátoři vyhodnocují, zda daný příspěvek neporušuje předpisy (např. pravidla proti nenávistným projevům, dezinformacím či nahotě). Avšak hranice „škodlivosti“ je v mnoha ohledech subjektivní a otevřená zneužití.
Neprůhlednost rozhodnutí: Společnosti často neprozrazují přesná kritéria, podle kterých příspěvky mažou nebo omezují jejich dosah. Uživatelé tudíž nemusí vědět, proč byl jejich příspěvek stažen, případně mohou být potichu „shadowbanováni“ (tj. jejich obsah se stává neviditelným pro ostatní).

2. Novodobí arbitři pravdy

Definice závadného obsahu: Co je považováno za dezinformaci v jedné zemi, může být jinde legálním nebo legitimním názorem. Technologické firmy mají tak de facto nadnárodní pravomoc určovat hranice svobody projevu.
Politická korektnost vs. cenzura: Mnozí kritici upozorňují, že snaha o kultivaci diskurzu může vést k přehnanému mazání příspěvků a ochromení demokratické debaty.

3. Ekonomické a mocenské faktory

Komerční zájmy: Pokud je pro firmu výhodné určité názory nebo témata potlačovat (např. kvůli tlaku inzerentů či státních orgánů), může tak učinit, aniž by o tom společnost věděla.
Spolupráce s vládami: V autoritářských státech mohou technologie hrát roli nástroje cenzury a potlačování opozice. V demokratickém světě existuje riziko, že vlády vyvinou nepřímý nátlak na platformy, aby „dobrovolně“ mazaly nevhodné příspěvky.

Sociální kreditní systémy

V některých zemích (nejznáměji v Číně) se již testují nebo zavádějí tzv. sociální kreditní systémy, které monitorují a hodnotí chování občanů v reálném čase. Propojují přitom záznamy z kamer (s rozpoznáváním obličeje), bankovní úvěrové registry, sociální sítě a další zdroje.

1. Princip fungování

Sbírání bodů: Občan dostává kladné či záporné body podle svých aktivit – například včasné placení účtů je pozitivní, dopravní přestupky či kritika vlády může být záporná.
Rozšířené využití: Tento „skóre“ může ovlivňovat přístup k určitým službám (veřejná doprava, půjčky, pracovní místa) či omezení volného pohybu (zákaz nákupu letenek).

2. Dopad na občanské svobody

Plná digitalizace dohledu: Každý krok je zaznamenáván a analyzován, což může vést ke ztrátě soukromí a k autocenzuře občanů, kteří se obávají postihu.
Diskriminace a sociální segregace: Lidé s nízkým skóre jsou vytlačováni na okraj společnosti, mohou ztratit zaměstnání, přátele nebo přístup k základním výhodám. Systém tedy prohlubuje sociální nerovnosti.

3. Možnost globálního rozšíření

Inspirace pro autoritářské režimy: Úspěšné pilotní projekty mohou být převzaty státy, které chtějí zesílit kontrolu nad občany.
Tlak na komerční firmy: Korporace by mohly využívat podobné mechanismy (např. pojišťovny zvyšující sazby lidem s „rizikovým“ chováním, banky omezující úvěry těm, kteří mají nízké společenské hodnocení). Tím by se algoritmická kontrola rozšířila i do ekonomické sféry.

Závěr

Moderní algoritmy nenápadně, avšak hluboce zasahují do každodenního života milionů lidí. Filter bubbles a echo chambers posilují uzavřenost myšlení a podporují radikalizaci, protože uživatelé se setkávají převážně s názory, jež jim potvrzují stávající přesvědčení. Digitální cenzura a regulace obsahu v rukou technologických firem pak vytvářejí novou formu kontroly nad veřejným diskurzem, kde je hranice mezi zodpovědnou moderací a autoritářským potlačováním názorů velice tenká.

Extrémním případem je zavedení sociálních kreditních systémů, v nichž státní aparát propojuje technologické nástroje s nepřetržitým sledováním obyvatel. Takový systém radikálně mění vztah mezi jednotlivcem a státem, jelikož i drobná odchylka od „žádoucího“ chování může vést k citelným postihům. Riziko globálního rozšíření těchto mechanismů by mohlo vést až k digitální totalitě, kde algoritmy stanovují pravidla a odměňují či trestají podle předem určených kritérií. Obrana proti těmto jevům spočívá zejména v osvětě, regulačních rámcích a garancích demokratických principů ve virtuálním prostoru.