Téma 24: Etické využití technologií

Praktické cvičení

„Otázka není, co technologie dokáže. Otázka je, co bychom jí měli dovolit.“ — Jurassic Park (1993)

Diskuze o etickém využití technologií

Téma etického využití technologií nabývá v digitální době na stále větší důležitosti. Týká se nejen IT profesionálů nebo státu, ale každého uživatele. Prohloubení kritického myšlení a dovednost etické reflexe je proto zásadní. Následující text představuje možnost, jak skrze případové studie, diskusi a analýzu dilemat vést praktické cvičení v oblasti kyberprostoru a etického zacházení s moderními technologiemi.

Diskuze nad případovými studiemi týkajícími se etiky v kyberprostoru

Co jsou případové studie

Případové studie (case studies) jsou reálné nebo modelové scénáře, které popisují konkrétní událost, situaci nebo konflikt. Slouží jako východisko pro diskuzi o morálních, právních i sociálních aspektech dané situace.

Příklady případových studií

• Únik dat (databáze osobních údajů)

Reálný incident, kdy došlo k průniku do firemní databáze a útočníci zveřejnili osobní údaje tisíců klientů.

Diskuze se může zaměřit na zodpovědnost firmy, na informovanost zákazníků a následné dopady (ztráta důvěry, právní kroky).

• Sociální síť a cílená politická kampaň

Firma zpracovala masivní množství dat o uživatelích bez jejich plného vědomí a cílila na ně politickou reklamu.

Účastníci diskuse mohou řešit hranici mezi legitimní reklamou, svobodou slova a manipulativním chováním.

• Sledování zaměstnanců na pracovišti

Zaměstnavatel používá software pro monitoring e-mailů, chatů, polohy či aktivity zaměstnanců.

Klíčové otázky: Kde je hranice mezi oprávněným dohledem firmy a ochranou soukromí zaměstnanců?

• Diskriminační algoritmus

Případ, kdy systém pro schvalování úvěrů vyhodnocuje určité demografické skupiny méně výhodně kvůli předsudkům v tréninkových datech.

Téma k diskusi: odpovědnost za bias, možnosti nápravy a kontrola algoritmů.

Analýza dilemat spojených s používáním moderních technologií

Jak postupovat při analýze

• Identifikace klíčových aktérů:

Kdo je zapojen? (Uživatel, firma, stát, třetí strany atd.)

• Hodnoty a zájmy:

Jaké etické hodnoty jsou ve hře? (souhlas, soukromí, bezpečnost, svoboda, transparentnost)

• Konfliktní momenty:

Kde se střetávají různé zájmy? (např. profit vs. soukromí uživatelů, efektivita vs. diskriminace)

• Možné scénáře řešení:

Jaké kroky by mohly situaci vyřešit, kdo by je měl podniknout, a jaké by to mělo důsledky pro všechny zúčastněné?

Důležitá etická dilemata

• Balanc mezi inovací a regulací:

Jak moc má stát zasahovat do vývoje nových technologií, aby ochránil občany, ale nezbrzdil vývoj trhu?

• Ochrana dat vs. personalizace služeb:

Uživatelé chtějí komfort a přesné cílení, ale rovněž si přejí zachovat soukromí.

• Zodpovědnost za rozhodnutí AI:

Kdo nese vinu, když autonomní systém způsobí škodu, chybnou diagnózu či diskriminaci?

Role jednotlivce, firem a státních institucí v oblasti etiky a bezpečnosti

Jednotlivec / uživatel

• Digitální gramotnost:

Uživatel by měl rozumět rizikům spojeným s poskytováním osobních údajů a vědomě volit, které služby používat.

• Aktivní přístup:

V případě incidentů (např. únik dat) by měl uživatel vyžadovat vysvětlení, uplatňovat svá práva (např. dle GDPR).

• Morální odpovědnost:

Uživatelé mohou spoluvytvářet prostředí, např. nepodporovat platformy zneužívající data, ozvat se při zneužívání technologií.

Firmy a korporace

• Etický design:

Měly by se vyvarovat dark patterns a zohledňovat dopady na uživatele a společnost.

• Průhlednost a odpovědnost:

Zveřejňovat, jak zpracovávají data, jak fungují jejich algoritmy, a dodržovat regulace pro ochranu soukromí (např. GDPR).

• Vzdělávání a prevence:

Firmy mohou investovat do školení svých zaměstnanců, rozvíjet interní etické kodexy a podporovat výzkum bezpečnosti.

Státní instituce

• Regulace a tvorba zákonů:

Nastavují rámec, v němž se digitální technologie používají (ochrana dat, kybernetická bezpečnost, standardy pro AI).

• Dohled a vymahatelnost:

Prostřednictvím dozorových orgánů (např. Úřad pro ochranu osobních údajů) zajišťovat důsledné vymáhání pravidel.

• Podpora vzdělávání:

Vytvářet strategie pro rozvoj digitálních kompetencí obyvatel, dotační programy na inovace, osvětové kampaně.

Návrh struktury praktického cvičení

• Výběr případové studie

Učitel nebo lektor předloží reálný či modelový scénář (např. únik dat velké společnosti), stručně popíše kontext a klíčové události.

• Skupinová diskuse

Studenti (účastníci) se rozdělí do skupin, z nichž každá zastupuje jednu roli (uživatel, firma, stát, neziskovka…).

Diskutují, jaké hodnoty a rizika vidí z hlediska své pozice, co by navrhovali jako řešení.

• Prezentace a konfrontace

Skupiny prezentují své závěry a navrhují možná kompromisní východiska.

Ostatní skupiny mohou klást dotazy a poukazovat na slepé body, které nebyly zohledněny.

• Zhodnocení a obecné principy

Učitel/lektor shrne, které etické a právní principy vyvstaly, a zdůrazní reálné následky rozhodnutí.

Diskuze o roli jednotlivce, firem a státu v zajištění bezpečného a férového online prostředí.

Aktivita

Práce ve skupinách – analýza konkrétního případu a návrh etických řešení.

🔎 Úkol

Připravit prezentaci na téma "Etika a bezpečnost v digitální éře."

Závěr

Praktické cvičení zaměřené na etické využívání technologií umožňuje studentům či účastníkům hlouběji porozumět problémům a dilematům, které nastávají v digitálním světě. Skrze případové studie a diskuze si každý může uvědomit komplexitu situací, roli různých aktérů a naučit se uplatňovat kritické myšlení. To je základem pro zodpovědnou a morálně udržitelnou práci s moderními technologiemi.

Zdrojová literatura

Floridi, L. (2013). The Ethics of Information. Oxford: Oxford University Press.

Autor se zabývá konceptem „informační etiky“ a vysvětluje základní hodnoty a dilemata, jež vyvstávají v informačním věku.

Brignull, H. (2010). Dark Patterns: User Interfaces Designed to Trick People.

Zabývá se problematikou manipulativních designových technik a jejich etickým kontextem.

Dostupné z: https://www.darkpatterns.org

MIT Sloan Management Review & Boston Consulting Group (2019). Artificial Intelligence in Business Gets Real.

Obsahuje příklady z praxe, jak firmy implementují AI a s jakými etickými otázkami se potýkají.

Pournelle, P., & Tsiavos, P. (Eds.). (2021). AI Ethics and Governance. London: Routledge.

Kniha o regulaci a etických standardech pro umělou inteligenci, včetně odpovědnosti firem a státu.

OECD (2021). OECD Principles on AI.

Dokument vytyčuje zásady a doporučení pro zodpovědné nakládání s AI, s důrazem na etiku a lidská práva.

Dostupné z: https://www.oecd.org/going-digital/ai/principles/

E-bezpečí (projekt Univerzity Palackého v Olomouci). Etika a bezpečnost v kyberprostoru.

Materiály a lekce o problematice odpovědného užívání technologií, kybernetické bezpečnosti i právních aspektech.

Dostupné z: https://www.e-bezpeci.cz

Tyto zdroje představují oporu pro hlubší zkoumání etických otázek v souvislosti s digitálními technologiemi a slouží jako inspirace pro tvorbu vlastních případových studií a diskusních aktivit.

Aktuální trendy, nové zdroje a dopady v oblasti etického využití technologií

Aktuální trendy

Digitální inteligence a etika: Digitální inteligence se stává klíčovým pojmem v digitální transformaci, kde se klade důraz nejen na technickou implementaci, ale také na strategické a etické zvažování možných aplikací. Kombinace velkých dat, umělé inteligence (AI) a pokročilých analytických nástrojů umožňuje organizacím získat hlubší vhled do svého prostředí a proaktivně reagovat na změny[1].

Kvantové počítače a etické otázky: Google nedávno představil svůj nejnovější kvantový čip nazvaný Willow, který představuje významný pokrok ve vývoji kvantových počítačů. Tato technologie má potenciál zásadně změnit naše chápání technologie a přináší nové etické výzvy, zejména v oblasti kybernetické bezpečnosti a ochrany dat[2].

Propojení etiky technologií a životního prostředí: Diskuze předních českých expertů nastínila možnosti propojení etiky nových technologií a etiky životního prostředí ve vzdělávání, při tvorbě veřejných politik, ale i na úrovni vědeckého výzkumu. Toto propojení je klíčové pro udržitelný rozvoj a odpovědné využívání technologií[3].

Nové zdroje

OECD Principles on AI: Dokument vytyčuje zásady a doporučení pro zodpovědné nakládání s AI, s důrazem na etiku a lidská práva. Dostupné z: OECD

Floridi, L. (2013). The Ethics of Information: Autor se zabývá konceptem „informační etiky“ a vysvětluje základní hodnoty a dilemata, jež vyvstávají v informačním věku. Oxford: Oxford University Press.

Brignull, H. (2010). Dark Patterns: User Interfaces Designed to Trick People: Zabývá se problematikou manipulativních designových technik a jejich etickým kontextem. Dostupné z: Dark Patterns

MIT Sloan Management Review & Boston Consulting Group (2019). Artificial Intelligence in Business Gets Real: Obsahuje příklady z praxe, jak firmy implementují AI a s jakými etickými otázkami se potýkají.

Pournelle, P., & Tsiavos, P. (Eds.). (2021). AI Ethics and Governance: Kniha o regulaci a etických standardech pro umělou inteligenci, včetně odpovědnosti firem a státu. London: Routledge.

E-bezpečí (projekt Univerzity Palackého v Olomouci). Etika a bezpečnost v kyberprostoru: Materiály a lekce o problematice odpovědného užívání technologií, kybernetické bezpečnosti i právních aspektech. Dostupné z: E-bezpečí

Dopady etického využití technologií na společnost

Sociální dopady: Etické využívání technologií může posílit sociální soudržnost a důvěru mezi jednotlivci a organizacemi. Transparentní a odpovědné nakládání s daty podporuje důvěru uživatelů a zvyšuje jejich ochotu sdílet informace, což může vést k lepšímu poskytování služeb a inovacím[4].

Ekonomické dopady: Firmy, které dodržují etické standardy, mohou získat konkurenční výhodu díky vyšší důvěře zákazníků a lepší reputaci. Etické využívání technologií také podporuje udržitelnost a dlouhodobý růst, což je klíčové pro ekonomickou stabilitu[5].

Vzdělávací dopady: Integrace etických principů do vzdělávacích programů zvyšuje digitální gramotnost a připravuje studenty na odpovědné využívání technologií. To může vést k lepšímu porozumění technologickým výzvám a jejich řešení, což je zásadní pro budoucí inovace a rozvoj[6].

References

[1] 14 aktuálních témat, která budou v roce 2025 výzvou pro digitální ...

[2] „Willow: Kvantový průlom Googlu, který mění budoucnost výpočetní ...

[3] Životní prostředí a nové technologie spojují etické výzvy

[4] Informační etika a společenské dopady moderních informačních technologií

[5] Jak technologie ovlivňují společnost v roce 2024: Klady a zápory

[6] AI metodika pro informatiku, Etika 01 — Etika vývoje a využití technologií