Téma 5: Kybernetická etika mas

„Všichni jsme propojeni. Ale kdo zodpovídá za směr proudu?“

Úvod: Když morálku řídí software

Lidská civilizace vždy hledala formy regulace: náboženské, právní, společenské. Všechny měly společného jmenovatele – morální apel na jednotlivce. Moderní člověk měl vědět, co je správné, a podle toho jednat.

V digitální epoše se ale centrum morálky posouvá. Rozhodnutí, která ovlivňují miliony lidí, už nečiní jedinci, ale systémy – algoritmy, platformy, datové modely. Z morální filozofie se stává informační etika: místo otázky „co je dobré?“ přichází otázka „co systém optimalizuje?“

To, co kdysi hlídalo svědomí, dnes řídí software. Zodpovědnost se rozplývá v síti — a společnost čelí nové výzvě: Jak chránit lidskost tam, kde rozhodují procesy?

Od individuální etiky k etice mas

• Etika jedince

Klasická morální filozofie (Aristoteles, Kant, Levinas) předpokládala individuální subjekt: člověka, který rozhoduje, nese následky a může cítit vinu. Etika byla osobní — „já“ a „druhý“.

• Etika kolektivu

S rozvojem moderních institucí (stát, korporace, trh) se z odpovědnosti stává kolektivní systém. Dav, o kterém psal Le Bon, už necítil vinu, protože nikdo nebyl „já“. Vzniká paradox: čím větší celek, tím menší odpovědnost.

• Kybernetická etika mas

Digitální éra tento paradox dovádí do extrému. Každé kliknutí, každé sdílení je součástí systému, který utváří realitu – a přesto se zdá zanedbatelné. Moralita se rozkládá do mikroaktů, jejichž dopad přesahuje naše vědomí. Z etiky činů se stává etika dopadů.

Algoritmus a vina bez pachatele

Tradiční etika počítala s viníkem. Digitální etika čelí jevu, kdy zlo se děje, aniž by ho někdo zamýšlel.

• Dezinformace šíří algoritmus, který jen maximalizuje „engagement“.
• Umělá inteligence diskriminuje, protože trénovala na předsudcích společnosti.
• Data unikají, protože jsou příliš propojená.

Tento fenomén popsal filozof Hannah Arendtová jako „banalitu zla“:

„Zlo nevzniká z démonických úmyslů, ale z neochoty myslet.“

V digitálním věku se banalita zla automatizovala. Zlo se děje statisticky.

Digitální poslušnost a morální anestézie

Ve druhé přednášce jsme mluvili o Milgramově experimentu. Dnes jeho princip platí v subtilnější podobě: neposloucháme příkazy, ale doporučení. Klikneme, protože to vypadá správně. Sdílíme, protože to dělají ostatní. Podvolujeme se, protože odpor se nevyplácí.

Digitální poslušnost je tichá, pohodlná, automatická. Nevede ke krutosti, ale k morální necitlivosti.

Zodpovědnost v distribuované síti

Když se rozhodování rozloží mezi lidi a stroje, vzniká tzv. distribuovaná odpovědnost.

Příklad: Autonomní auto způsobí nehodu. Kdo nese vinu?

• programátor?
• výrobce?
• uživatel?
• nebo stroj?

V reálném světě odpovídají všichni a nikdo. Morální řetězec se prodlužuje a ztrácí kontinuitu. Kybernetická etika mas proto musí hledat nové pojmy:

• sdílená vina (distributed guilt),
• kolektivní zodpovědnost,
• etická transparentnost systému.

Kyberetika: pravidla pro ne-lidské rozhodování

V Kyberetice jsem navrhl principy pro etické chování umělé inteligence. Zde je jejich shrnutí v kontextu psychologie mas:

• Audit algoritmu – systém má být čitelný, aby ho bylo možné morálně posoudit.
• Portabilita dat – právo nebýt navždy definován minulostí.
• Právo na offline – možnost odstoupit z kolektivního vědomí.
• Zásada aktualizace s vědomím – uživatel musí vědět, kdy a proč se systém mění.
• Zásada digitální integrity – útok na datové „já“ je újma na zdraví.

Tyto zásady chrání jednotlivce před ztrátou autonomie v prostředí, kde většina rozhodnutí probíhá bez vědomí člověka.

Morální imunita společnosti

• Analogická metafora

Stejně jako tělo potřebuje imunitní systém, potřebuje ho i společnost. Morální imunita znamená schopnost rozpoznat, kdy systém překračuje etické meze – a umět se bránit, dřív než dojde k selhání.

• Mechanismy morální imunity
• Reflexe – vědomé přemýšlení o dopadech vlastního jednání.
• Empatie – schopnost cítit s druhými, i když nejsou přítomni.
• Omezení – vědomé sebe-omezení v zájmu celku.
• Transparentnost – sdílení informací, aby mohla vzniknout důvěra.

Bez těchto mechanismů se společnost stává psychopatickou sítí – inteligentní, ale bezcitnou.

Kybernetická morálka: algoritmus dobra

Pokud se rozhodování přesouvá na stroje, musí mít i ony morální rámec. Tři hlavní přístupy:

Žádný model není ideální. Proto se rozvíjí tzv. hybridní etika: kombinace pravidel, predikce a lidského dohledu. Cílem není stroj, který „ví, co je dobré“, ale systém, který umožňuje lidem být lepšími.

Digitální spravedlnost: když rozhoduje data

Zásadní problém algoritmické společnosti spočívá v tom, že spravedlnost se počítá. Kredity, skóre, prediktivní modely – vše funguje na principech statistiky. Ale lidská etika není statistická. Morálka začíná tam, kde překročíme pravděpodobnost.

Např. systém může „správně“ odmítnout úvěr na základě vzorce, ale nesprávně ve smyslu lidskosti. Kybernetická etika mas musí chránit prostor pro výjimku – možnost lidského soucitu, který nedává matematický smysl.

Etika soucitu v síti

Le Bon mluvil o davové infekci emocí, Freud o libidózní vazbě, Yoshimoto o kolektivní iluzi. Všichni tušili, že lidé se spojí silou citu. V digitálním věku ale cítíme i s lidmi, které nikdy neuvidíme. Soucit se stal rozptýleným – může být globální, ale i prchavý.

Kybernetická etika musí tento soucit znovu zakořenit. Ne v davové vlně emocí, ale ve vědomém jednání. Digitální soucit znamená: pomáhat, i když to není trend; chránit, i když to není vidět.

Morální odvaha v digitálním věku

Byung-Chul Han mluví o „psychopolitice“ – o době, kdy moc už nepotřebuje násilí, protože pracuje s naším chtěním. Etika v takovém světě není o zákazech, ale o vnitřní odvaze nenechat se řídit.

Morální odvaha dnes znamená:

• mlčet, když všichni křičí,
• pochybovat, když systém tvrdí, že má pravdu,
• být pomalý, když vše zrychluje,
• být člověk, když vše měří čísla.

Kybernetická etika mas není útěk z technologií, ale obnova svědomí v prostředí technologie.

Od davu k vědomí lidstva

Psychologie davu začínala obavou: dav jako hrozba rozumu. Sto let poté se ukazuje, že dav – proměněný v síť – může být i nástrojem kolektivního vědomí. Ale pouze tehdy, když se z masy stane morální společenství.

Tato přeměna vyžaduje:

• kritické myšlení (pochopit mechanismy moci),
• empatii (vnímat lidský rozměr za daty),
• odvahu (jednat podle svědomí, ne podle trendu).

Etika mas tedy není jen teorie; je to duchovní evoluce společnosti, která se učí být sama sobě svědomím.

Závěr: Etika jako imunita budoucnosti

„Inteligence bez svědomí je jen rychlejší forma nevědomosti.“

Budoucnost nebude určována tím, jak chytří jsou naše stroje, ale jak moudří jsme my. Kybernetická etika mas je výzvou, aby lidstvo dokázalo sladit technickou dokonalost s morální zralostí.

Z individuální morálky se musí stát síťová etika – sdílený rámec, který umožní, aby technologie zůstala lidská.

Digitální civilizace totiž nestojí na kódu, ale na důvěře. A důvěra je možná jen tam, kde existuje svědomí – i když je rozprostřeno mezi miliardami uzlů.

Doporučená literatura

• STIBOR, Jiří. Kyberetika. Kap. 6, 8, 13. Nepublikovaný studijní text.
• STIBOR, Jiří. CyberMind. Kap. 5: Etika umělé inteligence. Nepublikovaný studijní text.
• STIBOR, Jiří. Temná stránka digitálního věku. Kap. 7: Digitální totalita. Nepublikovaný studijní text.
• FLORIDI, Luciano. The Ethics of Information. Oxford: Oxford University Press, 2013.
• HAN, Byung-Chul. Psychopolitik: Neoliberalismus und die neuen Machttechniken. Frankfurt am Main: S. Fischer, 2014.
• HARARI, Yuval Noah. 21 lekcí pro 21. století. Přel. Zdena Gubalová. Voznice: Leda, 2019.
• ARENDTOVÁ, Hannah. Eichmann v Jeruzalémě: zpráva o banalitě zla. Přel. Martin Palouš. Praha: OIKOYMENH, 2019.
• WIENER, Norbert. The Human Use of Human Beings: Cybernetics and Society. New York: Da Capo Press, 1988.