Spamming, Hate Speech a odpovědnost

„Ve světě, kde algoritmy živí hněv, se nenávist stává obchodním modelem.“

— inspirováno: Black Mirror & Ghost in the Shell

Úvod

V současném digitálním prostředí je sdílení informací a komunikace extrémně snadné. Tato dostupnost s sebou ovšem nese i negativní jevy, jako je spamming (rozesílání nevyžádaných zpráv) či hate speech (nenávistné projevy), které mohou ohrozit soukromí, důstojnost i bezpečnost uživatelů. Přednáška se zaměří na tyto klíčové oblasti:

• Co je spamming a jeho regulace (GDPR, CAN-SPAM Act).
• Hate Speech – definice, hranice mezi svobodou projevu a nenávistí.
• Role sociálních sítí a algoritmů v šíření nenávistných projevů.
• Skupinová práce: Návrh etického kodexu pro moderaci online diskuzí.

Co je spamming a jeho regulace

Definice spamu

• Spam (též „junk mail“) je označení pro nevyžádané hromadné zprávy rozesílané elektronickými kanály. Nejčastěji se jedná o e-maily, ale spam se objevuje i ve formě SMS, zpráv na sociálních sítích nebo komentářů v diskuzních fórech.
• Cíl spamu: Zprávy mohou obsahovat reklamu, podvodné nabídky (phishing), malware nebo odkazy na weby s pochybným obsahem.

Formy a motivace

• Komunikační přetížení: Podniky i jednotlivci často využívají hromadné rozesílky pro marketing. Pokud je to bez souhlasu příjemce, jde o spam.
• Podvody: Phishing a scam zprávy se snaží získat citlivé údaje (hesla, čísla karet).
• Provozovatelé botnetů: Používají napadené počítače k rozesílání velkého množství spamu.

Legislativní rámec

GDPR (General Data Protection Regulation) – EU

• V rámci EU stanovuje pravidla pro zpracování osobních údajů.
• Souhlas příjemce: Subjekty musí získat předem souhlas se zasíláním obchodních sdělení.
• Právo být zapomenut a právo na přenositelnost dat také přispívají k ochraně před nevyžádanými zprávami.

CAN-SPAM Act (USA)

• Federální zákon (2003), který vyžaduje:
• Identifikaci komerčního e-mailu (třeba v předmětu).
• Fyzickou adresu odesílatele.
• Možnost odhlášení (unsubscribe link).
• Porušení tohoto zákona může vést k vysokým pokutám.

Etické a praktické aspekty spamu

• Obtěžování a ztráta času: Příjemci jsou zahlceni nevyžádanými zprávami, což snižuje efektivitu komunikace.
• Bezpečnostní rizika: Mnoho spamu obsahuje odkazy na phishing či malware, což ohrožuje soukromí i firemní bezpečnost.
• Důvěra v digitální komunikaci: Masivní rozesílání spamu podkopává důvěru mezi uživateli a platformami.

Hate Speech: kde je hranice mezi svobodou slova a nenávistí?

Definice a příklady

• Hate speech (nenávistný projev) se vyznačuje verbálními útoky na základě rasy, národnosti, etnického původu, náboženství, pohlaví, sexuální orientace apod.
• Projevuje se v podobě urážek, výhrůžek, ale také vybízení k diskriminaci či násilí proti určité skupině lidí.

Příklady

• Rasistické urážky a „vtipy“.
• Výzvy k násilí vůči konkrétní menšině (např. muslimové, židé, LGBT).
• Propagace extrémistické ideologie (např. neonacismus) a popírání historických událostí (např. holokaust).

Právní rámec

• Evropské země (včetně ČR) mají zákony, které trestají podněcování k nenávisti, schvalování genocidy nebo zločinů proti lidskosti.
• USA: Tamní ústava silně chrání svobodu projevu. Trestání nenávistných projevů je omezenější, pokud nedochází k bezprostřednímu podněcování násilí.
• Mezinárodní dohody (např. Listina základních práv EU) uznávají limit pro svobodu slova tam, kde dochází k vyvolávání nenávisti a ohrožení bezpečnosti.

Etická dimenze

• Svoboda slova vs. ochrana lidské důstojnosti: Kde končí legitimní kritika a začíná nenávistný projev?
• Stigmatizace a marginalizace: Hate speech posiluje předsudky, zraňuje konkrétní komunity, vytváří prostředí strachu.
• Odpovědnost jednotlivce: Každý uživatel internetu by měl zvažovat dopady svých slov na ostatní, zejména na zranitelné skupiny.

Role sociálních sítí a algoritmů v šíření nenávistných projevů

Viralita a bubliny

• Algoritmy sociálních sítí (Facebook, Twitter/X, YouTube, TikTok) upřednostňují obsah, který vyvolává silné emoce. Nenávistné a kontroverzní příspěvky tak mohou získávat více interakcí (like, share, komentáře).
• Filter bubble (informační bublina): Uživatelé vidí hlavně příspěvky, které potvrzují jejich názory. To může posilovat extremistické postoje.

Moderování obsahu

• Automatické filtry: Sociální sítě využívají software ke sledování klíčových slov, obrázků nebo zvuků. Při podezření na závadnost příspěvky odstraní či omezí jejich dosah.
• Lidská moderace: Větší platformy zaměstnávají moderátory, kteří posuzují nahlášený obsah. Tato práce je psychicky náročná, ne vždy konzistentní.
• Kontroverze: Některé skupiny obviňují platformy z „cenzury“, jiné naopak z nedostatečného zásahu proti nenávistným projevům.

Odpovědnost platforem

• Bezpečnost vs. svoboda projevu: Platforem se často týkají výzvy, aby lépe chránily uživatele před nenávistnými útoky.
• Dezinformace: Hate speech může být propojená i s šířením dezinformací a radikalizací uživatelů.
• Právní postihy: V některých zemích (např. Německo – NetzDG) existují zákony, které ukládají sociálním sítím vysoké pokuty, pokud neodstraní nezákonný obsah v zákonné lhůtě.

Skupinová práce: návrh etického kodexu pro moderaci online diskuzí

Cíl aktivity

Studenti si formou skupinové práce vyzkoušejí, jak vytvořit etický kodex pro platformu, která umožňuje online diskuze (např. komunitní fórum, web s komentáři nebo sociální síť). Pracovní verze kodexu by měla řešit:

• Stanovení hranic pro nenávistný obsah.
• Pravidla pro uvádění zdrojů informací (boj proti spamu a dezinformacím).
• Mechanismy moderace a sankcí za porušení pravidel.

Postup

• Rozdělení do skupin (3–4 studenti):
• Každá skupina si představí, že je tým provozující online diskuzní platformu.
• Diskuze a tvorba dokumentu (15–20 minut):
• Identifikujte hlavní druhy nežádoucího obsahu (hate speech, osobní útoky, spam, off-topic).
• Nastavte jasné definice a příklady, co je již za hranou.
• Navrhněte proces moderace: Jak se příspěvky nahlašují, kdo je posoudí, jaká jsou možná opatření (varování, smazání, dočasný či trvalý ban)?
• Určete sankce: Rozlišujte mezi méně závažným porušením pravidel a opakovaným agresivním chováním.
• Prezentace výstupů (5–8 minut na skupinu):
• Každá skupina stručně představí svůj etický kodex.
• Ostatní mohou klást dotazy a navrhnout vylepšení.
• Reflexe:
• Diskutujte, zda vámi navržené postupy respektují svobodu projevu i potřebu chránit uživatele před nenávistí a spamem.
• Zvažte, jak náročná by byla vynutitelnost a důsledná aplikace kodexu v reálném provozu.

Závěrečné shrnutí

Spamming a hate speech patří mezi klíčové problémy online komunikace. Spam způsobuje ztráty času, ohrožuje bezpečnost a podkopává důvěru v digitální prostředí. Regulace (GDPR, CAN-SPAM Act) sice existuje, ale v praxi se potýká s celou řadou obtíží při vymáhání.

Nenávistné projevy (hate speech) testují hranice svobody slova – je nutné rozlišovat mezi kritikou a nenávistí či vyzýváním k násilí. Výraznou roli hrají sociální sítě a jejich algoritmy, které mohou nenávistný obsah zvýhodňovat v rámci virálního šíření. V důsledku toho nabývá na významu moderace a etické kodexy platforem. Tyto procesy se neobejdou bez právního rámce, jasných pravidel a zapojení celé komunity uživatelů.

Z pohledu kyberetiky jde o dilema mezi zajištěním bezpečného prostoru pro komunikaci a uchováním plurality názorů. Konsensus vyžaduje spolupráci legislativy, samotných platforem i široké veřejnosti, která by měla rozumět nejen svým právům, ale i zodpovědnosti za obsah, který sdílí či šíří.

Doporučená literatura a zdroje

• European Commission: https://ec.europa.eu/info/
• Informace o GDPR, legislativě proti nenávistným projevům a projektům zaměřeným na online bezpečnost.
• CAN-SPAM Act (zákon USA o nevyžádaných e-mailech):
• Oficiální text a příručky: https://www.ftc.gov/business-guidance/resources/can-spam-act-compliance-guide-business
• Delgado, R., Stefancic, J. (2017). Critical Race Theory: An Introduction. NYU Press.
• Kapitoly o roli jazyka a diskurzu při formování předsudků a nenávistných projevů.
• Citron, D. K. (2014). Hate Crimes in Cyberspace. Harvard University Press.
• Zabývá se problematikou hate speech a kyberšikany, možnostmi právní ochrany obětí.
• Napoli, P. M. (2019). Social Media and the Public Interest. Columbia University Press.
• Věnuje se mechanismům šíření obsahu na sociálních sítích, včetně nenávistných projevů a dezinformací.
• Weber, A. (2009). Manual on Hate Speech. Council of Europe Publishing.
• Právní a etické aspekty boje proti hate speech, evropský kontext.
• Šlerka, J. (2019). V síti: Sociální sítě, algoritmy a my.
• Česká publikace zaměřená na fungování sociálních sítí a roli algoritmů při formování názorů.
• Organizace na ochranu lidských práv (např. Amnesty International, Human Rights Watch)
• Monitorují případy hate speech po celém světě a nabízí doporučení pro vlády i platformy.

Doporučení pro další studium

• Online kurzy o kybernetické bezpečnosti a regulacích (edX, Coursera).
• Specializované konference zabývající se moderací obsahu a rolí platforem (např. RightsCon).
• Pravidelná reflexe a zapojení do diskuze – blogy, fóra, semináře o aktuálních výzvách v online komunikaci.

Závěrem lze shrnout, že boj proti spamu a nenávistným projevům vyžaduje zodpovědný přístup všech aktérů: zákonodárců, technologických firem a uživatelů. Kyberetika v této oblasti znamená neustálé hledání rovnováhy mezi svobodou projevu a ochranou důstojnosti a bezpečí lidí, kteří spolu komunikují v digitálním prostředí.