„Algoritmus mě zná líp než já sám. Ne že bych se mu chtěl podobat, ale je děsivé, jak rychle pochopí, co chci... dřív než to vyslovím.“
— zpověď uživatele Spotify, věk 19
1. Úvod: Zrcadlo, které se učí
V tradičním pojetí zrcadlo odráží to, co před ním stojí. Je pasivní, mlčenlivé, a pokud je čisté, nezkresluje. Algoritmus však není pasivní zrcadlo. Je učenlivé, selektivní, performativní. Neslouží k tomu, abychom se v něm jen viděli – slouží k tomu, aby nás předpovědělo. A tím zároveň utvářelo.
Každá interakce je záznam. Každý záznam je proměnná. A z proměnných vzniká obraz – model, který neodráží celého člověka, ale jen ten vzorec chování, který je monetizovatelný.
2. Já jako prediktivní profil
V systému řízeném strojovým učením nevzniká obraz „kdo jsi“, ale „co uděláš pravděpodobně příště“. Jak píše O’Neil (2016), algoritmické modely redukují komplexní člověka na datové objekty, které jsou kvantifikovatelné a predikovatelné.
Google, Netflix, TikTok, Instagram – všichni využívají variace doporučovacích systémů založených na kolaborativním filtrování a personalizaci. Tyto systémy nesledují „pravdu“ o člověku, ale zvýšení míry interakce. Jinými slovy: nejsem to já, co vidím na své zdi – je to já, které systém chce, abych byl.
3. Efekt zpětné smyčky
Tím, že algoritmus doporučuje obsah na základě předchozích kliknutí, vzniká fenomén známý jako efekt zpětné smyčky (feedback loop). Uživatel dostává více toho, co už konzumoval, a méně alternativ. Dochází ke zúžení informačního prostoru, které Pariser (2011) označuje jako filtrační bublinu.
Algoritmus tak přestává být nástrojem pro objevování světa a stává se systémem potvrzování předpokladů. V něm je identita nejen odrazem, ale i vězením.
4. Digitální performativita: chovám se, abych byl zařazen
Zrcadlo algoritmu není jen pasivní – je i hodnotící. Jakmile si uživatel uvědomí, že jeho chování ovlivňuje jeho viditelnost, začne se přizpůsobovat. To je jádro digitální performativity:
- píšu věci, které dostanou lajky,
- sleduji témata, která algoritmus „oceňuje“,
- tvořím se stylem, který „funguje“.
Identita se tak nerodí zevnitř, ale z optimalizačního tlaku – být viděn, doporučen, zařazen.
To je nová forma digitální etiky: nechám se měřit, abych byl přítomen.
5. Filosofická poznámka: Může stroj pochopit člověka?
Algoritmy nejsou neutrální. Nesledují pravdu, ale výkonnost. Nehodnotí lidskou motivaci, ale její projev. Jak varuje Cathy O'Neil, jde o zbraně matematické destrukce – protože zacházejí s neúplnými daty, mají sklon ke zkreslení a ztížené opravě.
Zrcadlo algoritmu tedy není nástroj poznání, ale nástroj predikce s vedlejším efektem formování. A právě v tom je jeho moc – i nebezpečí.
Poznámky a odkazy
- O’Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown.
- Pariser, E. (2011). The Filter Bubble: What the Internet Is Hiding from You. Penguin.
- Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.
- Pasquale, F. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press.
- Floridi, L. (2014). The Fourth Revolution: How the Infosphere is Reshaping Human Reality. Oxford University Press.