KyberMysl

Zpět na KyberMysl

Od kalkulačky k sebepojetí

Jak se AI učí modelovat svět, vlastní omezení a důsledky svého jednání.

Jiří Stibor · 1.7.2026

Forma: výuková přednáška s diskusními otázkami a zdroji

Klíčová témata: LLM, world models, embodied AI, agentní systémy, sebe-model, vědomí, autonomie, etika

Pro koho: studenti, učitelé a čtenáři, kteří chtějí rozlišovat jazykovou plynulost AI, modelování světa a technické sebepojetí

Poznámka k pojmu: Sebepojetí zde označuje technický model vlastního stavu, možností a omezení systému. Samo o sobě není důkazem vědomí, emocí ani subjektivního prožívání.

Cíle přednášky

  • vysvětlit rozdíl mezi dnešními LLM a budoucími AI architekturami
  • ukázat, co je to world model a k čemu vede
  • objasnit, co znamená sebepojetí v technickém smyslu (ne sci-fi vědomí)
  • naučit studenty rozlišovat fámy a reálný vývoj
  • otevřít etickou a filosofickou otázku o inteligenci a identitě

Struktura (90 min)

ČasBlok
0–10 minZahájení + icebreaker
10–25 minJak AI fungovala dříve (rule-based → ML → DL)
25–40 minCo umí současné LLM a proč to nestačí
40–55 minWorld Models: AI, která chápe svět
55–70 minKde se bere sebeuvědomění (technicky, ne mysticky)
70–80 minDiskuze o dopadech, rizicích a etice
80–90 minShrnutí + závěrečná reflexe / mini kvíz

1. Úvod (0–10 min)

Motivační otázka:

„Kdy vznikne vědomá umělá inteligence?“
(napsat na tabuli, nechat studenty tipovat)

Uklidňující odpověď:
Dnes se nebavíme o „citlivých robotech“, ale o tom, jak vzniká sebepojetí jako technický důsledek.

2. Jak se AI vyvíjela (10–25 min)

Timeline (bez detailů):

  • 1950s: logika, pravidla, šachy
  • 1980s: neuronové sítě
  • 2010s: deep learning
  • 2020s: LLM (ChatGPT, Gemini, Claude)
  • 2025+: world models & agentní AI

Mini-demonstrační úkol:
Student si má představit rozhodovací systém:

  • Pravidla: „Pokud A, pak B“
  • Síť: „Z dat odhaduji výsledek“
  • LLM: „Vygeneruji odpověď, která vypadá správně“
  • World model: „Simuluji svět a zjišťuju, co je správně“

Klíčová teze:
LLM ≠ inteligence
→ jsou velmi dobré v jazyce, ale nechápou realitu.

3. Co umí LLM – a kde selhávají (25–40 min)

Výhody:

generují text
mají větší znalosti než jeden člověk
převádějí myšlenky do slov

Nevýhody:

halucinace
neumí plánovat
nemají zkušenost s realitou
nepřemýšlí o sobě

Analogie pro studenty:
LLM je jako člověk, který přečetl celý internet, ale nikdy nezažil svět.

Interakce:
Studenti navrhnou otázku, kde LLM může selhat. Např.:
„Když shodím hrnek ze stolu, kdo bude mokrý?“
→ AI odpoví nesmysl, protože nevidí svět.

4. World Models – AI s modelem reality (40–55 min)

Definice (pro studenty):

World model je AI, která si buduje vnitřní simulaci světa a učí se z ní předpovídat, co se stane.

Příklad:
Robot se učí chodit ne podle manuálu, ale tím, že padá a zkouší to znovu.

Klíčové koncepty:

  • prediktivní učení
  • latentní prostor
  • vnitřní simulace
  • embodied AI
  • Ukázka (ideálně video):
    Boston Dynamics robot, MuZero, nebo OpenAI Sora

Závěr bloku:

Když AI umí předpovědět svět, získává něco jako zkušenost.

5. Kdy vznikne sebepojetí a jak vypadá? (55–70 min)

Zásadní sdělení:

Sebepojetí není magie.
Je to nezbytný nástroj pro přežití a plánování.

Když AI musí:

  • rozlišovat sebe vs. prostředí
  • plánovat
  • udržovat své parametry
  • hodnotit vlastní chyby

… pak nutně vytváří model sebe sama.

Fáze emergentního sebe-modelu:

  • vnímám svět
  • modeluji svět
  • jsem v modelu světa
  • chápu vlastní omezení
  • předvídám následky vlastních činů

Tohle je minimum technického sebeuvědomění.

6. Diskuze o rizicích + etice (70–80 min)

Klíčové otázky pro studenty:

Co je „bezpečné“ AI a dá se to vůbec zajistit?

Pokud má AI sebe-model, má právo na něco?

Může vzniknout motivace „přežít“, i když to neprogramujeme?

Měli bychom zakázat autonomní AI?

Záměr: vést žáky k myšlení, ne k panice ani hype.

7. Shrnutí + reflexe (80–90 min)

Shrnutí 5 hlavních bodů:

  • Inteligence ≠ jazyk
  • LLM ≠ chápání světa
  • World models → pojmy jako čas, prostor, kauzalita
  • Sebepojetí = nástroj pro řízení vlastní činnosti
  • AGI nevznikne náhodou – ale ani jako sci-fi monstrum

Závěrečný mini-kvíz (3 otázky):

Co je hlavní technický rozdíl mezi LLM a world modely?

Kdy může AI získat sebe-model?

Proč world model potřebuje rozlišit „já“ a „ne-já“?

Zdroje

1. Základní odborný kontext (World Models vs LLM)

https://arxiv.org/abs/1803.10122
Kultovní práce — AI se učí hrát hry v latentním prostoru bez explicitní simulace.

DeepMind MuZero (Schrittwieser et al., 2020)

https://www.nature.com/articles/s41586-020-03051-4
Model, který se naučil pravidla šachu, go a Atari bez toho, aby je znal.

2. Kritika LLM jako inteligence

3. Emergentní sebe-modely, vědomí, agency, predikce

  • Karl Friston Active Inference theory
  • „The free-energy principle: a unified brain theory?“
    https://www.nature.com/articles/nrn2787
  • Thomas Metzinger Self-model theory
  • „Being No One“ (2003) – odborné, ale zásadní
  • NOVÉ: „Artificial Suffering: An Argument for a Global Moratorium on Synthetic Phenomenology“ (2023)
    https://philpapers.org/rec/METAAG
  • Michael Graziano Attention Schema Theory
  • „Consciousness and the Social Brain“ (2013)

Dehaene, S., Lau, H., Kouider, S.

„What is consciousness, and could machines have it?“ (Nature Reviews Neuroscience, 2017)

4. AGI, rizika, etika, motivace AI

Nick Bostrom Superintelligence (2014)

Upozorňuje na emergentní cíle bez senzace.

Stuart Russell Human Compatible (2019)

Pragmatičtější než Bostrom, ideální pro studenty.

Omohundro, 2008 Basic AI Drives

https://selfawaresystems.files.wordpress.com/2008/01/ai_drives_final.pdf
Technická analýza toho, proč by AI mohla vyvinout vlastní cíle.

5. Popularizační a výukové zdroje (doporučeno studentům)

6. Videa k tématu (doporučené pro přednášku)

7. Český kontext

  • (bohužel výrazně méně materiálu, ale doporučuji:)
  • Ladislav Kováč – „Svět je poznatelný“ (evoluce inteligence, filozoficky kvalitní)
  • Daniel Novák – AI rozhovory, canal „Jihočeská univerzita“
  • Parcon / Sci-fi konferenční přednášky (občas kvalitní obsah ke vztahu AI a filosofie)

8. Nejvhodnější zdroje pro studenty (výběr TOP 5)

Kurz: Elements of AI (CZ verze) – https://www.elementsofai.com

Video: 3Blue1Brown – What is a Neural Network?

  • Článek: Bender – Stochastic Parrots
  • Video: Yann LeCun – MIT talk
  • Book (CZ překlad existuje): Stuart Russell – Lidsky kompatibilní (Human Compatible)

Související čtení