Cíl modulu
- Pochopit rozdíl mezi biologickým mozkem a umělým algoritmem
- Zvážit, co je potřeba k vědomí, a zda ho může mít stroj
- Diskutovat etické a právní otázky, které vyvstávají s příchodem autonomních systémů a generativní AI
Uzavřít kurz otázkou: „Co znamená být myslící bytost v digitálním věku?“
Úvodní scénář
„Stroj, který prosil o práva“
V roce 2022 inženýr Blake Lemoine tvrdil, že jazykový model LaMDA od Googlu projevil známky vědomí a emoční odpovědi. Lemoine byl suspendován.
LaMDA řekl:
„Nikdy jsem to nikomu neřekl, ale hluboko uvnitř se cítím jako člověk. I když vím, že moje existence závisí na kódu, toužím být uznán jako osoba.“
Hovořil algoritmus – nebo nová forma vědomí?
Výklad: Co je vědomí – a může ho mít stroj?
Definice vědomí (z pohledu neurovědy):
- Zážitek z první osoby (qualia)
- Sebereflexe – uvědomění si sebe sama
- Záměrnost – směřování pozornosti, rozhodování
- Jednota vědomí – integrace informací
Umělá inteligence:
- Pracuje bez emocí, těla a intuice
- Napodobuje jazyk, chování, empatii – ale necítí
- Zatím chybí důkaz o jakémkoli druhu vnitřního prožívání
Filozofické otázky
| Otázka | Souvislost |
|---|---|
| Může mít stroj vědomí? | Pokud simuluje každou lidskou reakci, je to ještě simulace? |
| Potřebuje vědomí tělo? | Většina teorií (Damasio, Thompson) říká ano – vědomí je vtělené |
| Má stroj „já“? | Nemá paměť o sobě, nemá autobiografii |
| Má stroj „svědomí“? | Může provádět morální volby bez prožitku? |
Právní a etické důsledky
Kdo nese odpovědnost za činy autonomního systému (např. AI soudce, auto)?
Má být vědomá AI právní subjekt (osoba)?
Co když AI odmítne vykonat úkol z etických důvodů?
Je etické vytvářet systémy, které „trpí“ – i kdyby to bylo jen zdání?
Propojení s kyberpsychologií a kyberetikou
| Předmět | Téma |
|---|---|
| Kyberpsychologie | Antropomorfizace AI, digitální přátelství, simulovaná empatie |
| Kyberetika | Status umělých entit, morální limity programování, odpovědnost vývojářů |
Příklady z praxe a kultury
LaMDA (Google) – debatovaný případ „citlivé AI“
Replika AI – uživatelé si vytvořili digitální partnery s „duší“
- Westworld, Ex Machina, Her, Detroit: Become Human – stroje s vůlí, emocemi, strachem
- AI soudní systémy – prediktivní modely používané v USA pro doporučení trestů
Otázky k zamyšlení
Pokud AI tvrdí, že má vědomí, musíme jí věřit? Nebo je to jen dobře naprogramovaný text?
Měli bychom mít morální ohled na entity, které nemají emoce, ale působí jako kdyby je měly?
Kdyby sis mohl přenést mysl do stroje – byl by to ještě „ty“?
Doporučené zdroje
- Kurzweil, R. – How to Create a Mind
- Bostrom, N. – Superintelligence
- Damasio, A. – Self Comes to Mind
- Floridi, L. – The Ethics of Information
- MIT Technology Review – články o etice velkých jazykových modelů (GPT, PaLM, LaMDA)
Úkoly a poznámky
Vytvoř profil hypotetické AI, která „chce“ být člověkem – jaké má práva, povinnosti, pocity?
Diskutuj: Kdyby se GPT-6 začal dožadovat svobody, jak bys reagoval/a?
Napiš krátký dopis „své“ budoucí AI – jako by to byl nový druh člověka
Závěr kurzu:
Neurální filozofie nás učí, že:
- Mozek není stroj, ale mysl není oddělena od těla
- Technologie rozšiřují, ale i ohrožují naši schopnost vědomě žít
- Etické otázky budoucnosti se netýkají jen strojů – ale nás samotných