Úvod
Umělá inteligence není jen technologický nástroj.
Každé její použití má společenské, právní a morální důsledky.
Otázka „Jak to funguje?“ se proto musí doplnit otázkou „Je správné to takto použít?“.
Etika AI se snaží nastavit pravidla, aby technologie nepoškozovala jednotlivce ani společnost a zároveň podporovala inovace.
V tomto modulu si projdeme hlavní etické principy, reálné problémy a možné způsoby regulace.
Klíčové etické principy v AI
- Spravedlnost (Fairness)
- AI nesmí diskriminovat na základě pohlaví, věku, etnika, víry nebo jiných chráněných charakteristik.
- Příklad: náborový algoritmus, který znevýhodňuje kandidátky, protože byl trénován na historických datech plných genderových předsudků.
- Transparentnost
- Uživatel má právo vědět, že komunikuje s AI, a chápat, na jakém principu funguje.
- Příklad: označení AI generovaného obsahu ve zprávách.
- Odpovědnost (Accountability)
- Musí být jasné, kdo nese odpovědnost za rozhodnutí učiněné AI.
- Příklad: kdo je zodpovědný za dopravní nehodu autonomního vozidla.
- Bezpečnost a spolehlivost
- AI musí být navržena tak, aby minimalizovala riziko škod – od kybernetických útoků po chybné výstupy.
- Ochrana soukromí
- Respekt k osobním údajům a právo uživatele na kontrolu nad svými daty.
Reálné etické problémy
- Bias v trénovacích datech – diskriminační algoritmy při přijímání zaměstnanců či schvalování půjček.
(Zdroj: Buolamwini & Gebru, 2018 – Gender Shades Project) - Nedostatečná kontrola AI – AI systémy, které generují obsah bez lidského dohledu, mohou šířit dezinformace.
(Příklad: Facebook doporučovací algoritmy a fake news v roce 2016) - Deepfake zneužití – poškození reputace, vydírání nebo politická manipulace.
(Zdroj: Chesney & Citron, 2019 – Deepfakes and the New Disinformation War)
Regulace a etické rámce
- EU AI Act – první komplexní legislativa na světě pro regulaci AI (v platnosti od 2024).
- Kategorizuje AI podle rizikovosti: minimální, omezené, vysoké, nepřijatelné riziko.
- Zakazuje např. sociální skórování občanů.
- OECD AI Principles – mezinárodní doporučení pro spravedlivé a odpovědné používání AI.
- Etické kodexy firem – Google, Microsoft, IBM mají vlastní etické zásady pro AI.
Jak etiku aplikovat v praxi
- Audit dat a algoritmů – zkoumat zdroje dat, hledat předsudky.
- Human-in-the-loop – u důležitých rozhodnutí má vždy poslední slovo člověk.
- Označování obsahu – jasně uvádět, co vytvořila AI.
- Školení uživatelů – učit studenty i pracovníky o rizicích a limitech AI.
Shrnutí
Etika AI není jen „pěkný doplněk“, ale nezbytná součást vývoje a používání technologií.
Spravedlnost, transparentnost, odpovědnost, bezpečnost a ochrana soukromí jsou principy, které musí být součástí každého projektu s AI – od školního asistenta po autonomní auta.
Otázky k zamyšlení
- Měl by být obsah generovaný AI vždy označený? Proč ano/ne?
- Jak byste vysvětlili pojem „bias“ člověku, který AI nikdy nepoužil?
- Kdo by měl nést odpovědnost za chybu AI – vývojář, provozovatel, nebo uživatel?
Praktický úkol
- Najděte reálný příklad AI, který vzbudil etickou kontroverzi (např. v médiích).
- Stručně popište:
- Jak fungoval.
- Jaký problém způsobil.
- Jak byl (nebo nebyl) problém vyřešen.
- Diskutujte, jak by šlo předejít podobným problémům.
Doporučené zdroje
- Weby:
- EU AI Act – Overview
- OECD AI Principles
- Knihy:
- Kate Crawford – Atlas of AI.
- Cathy O’Neil – Weapons of Math Destruction.
- Výzkum:
- Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification.
- Chesney, R., & Citron, D. (2019). Deepfakes and the New Disinformation War.