Úvod
Umělá inteligence působí dojmem, že umí odpovědět na cokoliv a vyřešit téměř každý úkol.
Ve skutečnosti má významná omezení – a pokud o nich nevíme, můžeme na ně doplatit.
Navíc její používání přináší rizika, která se týkají nejen technologií, ale i lidí a celé společnosti.
Tento modul vás naučí poznat slabiny AI, vyhodnotit hrozby a nastavit si bezpečné mantinely při jejím používání.
Limity současné AI
- Závislost na trénovacích datech
- AI ví jen to, co se naučila z dat, která dostala.
- Neumí získávat aktuální znalosti, pokud nemá přístup k internetu (a i tehdy je omezená).
- Statistická povaha odpovědí
- AI nevytváří „pravdu“, ale nejpravděpodobnější pokračování textu nebo obraz podle tréninkových vzorů.
- Halucinace
- AI si může „vymýšlet“ neexistující fakta, odkazy nebo citace.
- Slabé chápání kontextu
- Pokud je prompt nejasný nebo příliš krátký, AI snadno vybočí z tématu.
- Nemožnost skutečné kreativity
- AI kombinuje existující vzory – originální nápady jsou jen výsledkem neobvyklých kombinací.
Rizika pro uživatele
- Dezinformace a manipulace
- AI může generovat obsah, který působí přesvědčivě, ale je zcela nepravdivý.
- Ztráta soukromí
- Citlivá data vložená do AI nástroje se mohou ukládat a použít k dalšímu tréninku.
- Digitální závislost
- Nadměrné spoléhání se na AI vede k úbytku vlastních dovedností.
- Filtrovací bubliny
- AI doporučovací algoritmy omezují rozmanitost informací, které vidíme.
Rizika pro společnost
- Deepfakes
- Realistické, ale falešné audio a video mohou poškodit reputaci nebo destabilizovat politiku.
- Automatizace a pracovní trh
- Rutinní činnosti mizí, vznikají nové profese, ale přechod je náročný.
- Bias (předsudky)
- Modely přebírají zaujatosti z trénovacích dat, což může vést k diskriminaci.
- Kybernetická kriminalita
- AI se dá použít k tvorbě škodlivého kódu, phishingu nebo sociálnímu inženýrství.
Jak se chránit
- Ověřuj zdroje – nikdy nepřebírej informaci z AI bez kontroly.
- Neposílej citlivá data – osobní údaje, přístupové kódy, interní dokumenty.
- Udržuj digitální gramotnost – chápej, jak AI funguje a kde může selhat.
- Pracuj s více zdroji – kombinuj AI výstupy s tradičními metodami hledání informací.
- Používej verifikované nástroje – preferuj služby s jasnou politikou ochrany dat.
Příklady reálných incidentů
Falešné fotky papeže v bundě Balenciaga (2023) – virální deepfake vytvořený AI.
AI generující falešné vědecké články – přijaté k publikaci, než byly odhaleny.
Chatbot banky – neúmyslně poskytl uživateli citlivé informace kvůli chybě v promptu.
Shrnutí
AI je mocný nástroj, ale není neomylný a není zcela bezpečný.
Rozumný uživatel zná její limity, rozpozná potenciální hrozby a používá AI způsobem, který minimalizuje rizika pro sebe i ostatní.
Otázky k zamyšlení
- Kdy jste naposledy ověřovali informaci, kterou vám poskytla AI?
- Jak by mohl deepfake ovlivnit volby nebo soudní proces?
- Co by se stalo, kdyby školní AI asistent začal neúmyslně šířit nepravdivé informace?
Praktický úkol
Najděte obrázek nebo video na internetu, které považujete za podezřelé.
Ověřte ho pomocí nástroje pro detekci deepfake (např. Deepware Scanner).
Zapište si, jak jste poznali, že jde/nejde o manipulaci.
Doporučené zdroje
- Weby:
- AI Incident Database – katalog reálných incidentů s AI.
- EU AI Act – evropská legislativa k AI.
- Knihy:
- Cathy O’Neil – Weapons of Math Destruction (o algoritmech a jejich dopadech).
- Video:
- The Dangerous Side of AI – TED Talk