Co se naučíš
- pochopíš, co znamenají realismus, nominalismus a konceptualismus – a kde se v AI projevují,
- uvidíš rozdíl mezi „přirozenými druhy“ (natural kinds) a „rodinnou podobností“ a proč to mění typ modelu i evaluaci,
- poznáš, jak se filosofie promítá do ontologií, anotací dat, architektur i metrik spravedlnosti,
- dostaneš praktický checklist pro týmy: od Model Cards po drift a neuro-symbolické kontroly.
1) O co ve sporu jde – a proč to zajímá datový tým
Univerzálie jsou obecné pojmy/vlastnosti (např. člověk, zánět, nenávistný projev, spravedlnost).
Zásadní otázka: Existují „ve světě“ samy o sobě (realismus), nebo jsou to jen jména/štítky (nominalismus), případně pojmy v naší mysli (konceptualismus)?
Tahle „abstraktní“ hádka proniká do praxe:
- jak definujeme třídy a labely,
- jaké ontologie a datové slovníky používáme,
- jak generalizujeme mimo tréninková data,
- jak ověřujeme „pravdu“ výstupů,
- jak chápeme a měříme spravedlnost.
Klíčová myšlenka: Každá AI už nějakou metafyziku používá – i když si to nepřizná.
Lepší je volby zvědomit a popsat je v dokumentaci.
2) Tři filosofické postoje – a jejich AI „ekvivalenty“
2.1 Umírněný realismus: „třídy existují“
- Myšlenka: sdílené vlastnosti/druhy jsou reálné rysy světa (ale ne „mimo věci“).
- AI paralela: symbolická AI, ontologie, knowledge graphs (např. SNOMED CT v medicíně); logiky jako OWL/Description Logic, SHACL pro validace.
- Výhody: interoperabilita, vysvětlitelnost, kontrola konzistence; dobré pro domény se stabilní strukturou.
- Rizika: rigidita, nákladná údržba, náchylnost k „zabetonovaným“ definicím.
Příklad: „Zánět“ má v ontologii vztahy k tkáním, markerům, léčbě. Pravidla dovolí kontrolovat, zda návrhy modelu neporušují medicínskou logiku.
2.2 Nominalismus (operacionalismus): „třídy = štítky z praxe“
- Myšlenka: existují jen jednotliviny; obecné je název pro to, co prakticky odlišujeme.
- AI paralela: běžný ML pipeline – definice je to, co anotátoři označí; „pravda“ = konsensus v datech.
- Výhody: rychlá adaptace, jednoduchost, optimalizace na task.
- Rizika: šum v labelu, kulturní posuny, bias; horší přenositelnost napříč kontexty.
Příklad: „Toxicita“ na sociálních sítích – definována anotačním manuálem; co projde v jedné zemi, jinde může být „toxické“.
2.3 Konceptualismus a prototypy: „kategorie jako shluky“
- Myšlenka: univerzálie jsou pojmy; v realitě rozpoznáváme typické vzory a stupně podobnosti.
- AI paralela: embeddingy, clustering, prototypové sítě (Prototypical Networks), metric learning, fuzzy klasifikace.
- Výhody: dobře zachytí „rodinné podobnosti“, hranice nejsou násilně ostré.
- Rizika: vysvětlení je „měkké“, právně hůř obhajitelné; standardizace je složitější.
Příklad: „Deprese“ jako spektrum symptomů – místo binární třídy škálové skóre + prototypy podtypů.
3) Natural kinds vs. rodinné podobnosti – jak volit model
Některé domény zjevně připomínají přirozené druhy (natural kinds):
chemie, části biologie – stabilní struktury (periodická tabulka, genetika) → realistická ontologie se osvědčuje.
Jiné domény jsou spíš rodinné podobnosti (Wittgenstein):
psychologie, právo, moderace obsahu – definice se mění, hranice jsou stupňovité → lépe fungují prototypy, pravděpodobnosti, heuristiky.
Dopad na AI design:
- natural kinds → hierarchická a pravidly kontrolovaná klasifikace, silný důraz na konzistenci;
- family resemblance → multilabel, škálové skóre, unsupervised/semi-supervised objevování shluků, průběžná re-kalibrace.
4) Kde se metafyzika schovává v praxi
4.1 Anotace a labely
- Realistický přístup: nejdřív definice a ontologie, pak anotace.
- Nominalistický přístup: nejdřív pilotní anotace, z labelů se vynoří pracovní definice.
- Prototypy: anotátoři hodnotí typickost (0–1), doplňují racionále.
Tip: U společenských pojmů používej více anotátorů a měř shodu (Cohenovo κ / Krippendorffovo α). Rozdíly nejsou chyba, ale informace o pluralitě významu.
4.2 Ontologie a „ontologický závazek“
- Quine: „o čem teorie mluví, k tomu jsme ontologicky zavázáni“.
- V AI to znamená: když zafixuješ třídník, zvolil jsi metafyziku.
- Model Cards/Datasheets: uveď, co tvoje třídy „jsou“ (esence × prototyp × provozní štítek), verze ontologií a změny v čase.
4.3 Architektury odrážejí postoje
- Neuro-symbolická AI: ML + logická kostra (OWL/SHACL), konzistence a vysvětlitelnost – duch realismu.
- Prototypové/metrické učení: blízkost k příkladům; členství je stupňovité – duch konceptualismu.
- Concept Bottleneck Models / TCAV: model se učí a vysvětluje přes lidsky srozumitelné pojmy – most mezi světy.
- Hierarchická multi-label klasifikace: realistická kostra + pružnost v listech stromu.
4.4 Pravda a evaluace
- Korespondenční testy: gold standard, měření proti „skutečnosti“ (diagnóza, chemická identita).
- Koherence: vnitřní logická soudržnost (neporušuje ontologii, pravidla).
- Pragmatismus: A/B testy, dopad v provozu – pozor, nezaměnit „co funguje“ za „co je pravda“.
- Pluralismus: různé domény → různé verifikační režimy (fakta vs. hodnotící výroky).
4.5 Spravedlnost a governance
- Definice fairness (demographic parity, equalized odds…) předpokládají, co považujeme za podstatné rysy (pohlaví, věk, skupiny).
- Nominalistické riziko: labely reprodukují předsudky v datech → feedback loop.
- Realistické riziko: rigidní kategorie vyloučí okraje (marginalizace, větší chyba na minoritách).
- Praxe: metriky fairness + audity + stakeholdeři z dotčených skupin.
5) Minipřípady
5.1 Autonomní řízení
- Třída „překážka“ jako univerzální (kostra) + prototypy: kočárek, pytel, papírová taška.
- Evaluace: korespondenční (byl objekt reálně tam?), koherenční (pravidla), pragmatická (bezpečnostní metriky).
5.2 Zdravotnictví
- Přirozené druhy: patogeny, molekuly → ontologický realismus.
- Symptomy: shluky → škálové skóre, prototypy; verzování kritérií (DSM/ICD) = verzování metafyziky.
5.3 Moderace obsahu
- Kostra pravidel (co určitě je/není) + lokální prototypy jazykových projevů a více-hlasá anotace.
- Dokumentuj kulturní variace, sleduj konceptový drift.
6) Doporučení pro praxi (checklist)
- Zvědom ontologii: do Model Card napiš, co třídy znamenají a proč (esence/prototyp/štítek).
- Spoj přístupy: realistická kostra (hierarchie, pravidla) + měkké okraje (prototypy, pravděpodobnosti).
- Anotační manuál = filosofie v praxi: u sociálních tříd více anotátorů, uváděj racionále.
- Verzuj pojmy: sleduj změny definic (v1, v2…), drž mapování mezi verzemi; loguj dopad na trénink/evaluaci.
- Měř drift: datový i konceptový drift; plánuj re-labeling a re-trénink.
- Neuro-symbolická kontrola: validuj výstupy vůči ontologiím (SHACL/OWL) u domén, kde to dává smysl.
- Vysvětlování pojmy/prototypy: CBM/TCAV, prototypy – odpovídá tomu, jak lidé chápou kategorie.
- Metriky přizpůsob doméně: u hierarchií počítej hierarchickou ztrátu; u prototypů typickost; u fairness více metrik současně.
- Stakeholdeři v kruhu: do návrhu definic zapoj odborníky i dotčené skupiny; zapisuj kompromisy a důvody.
- Transparentní kompromisy: když je pojem sporný, napiš to. Přidej varování k interpretaci výstupů.
7) Kontrolní otázky (rychlý kvíz)
- Kdy se ti víc hodí realistická ontologie a kdy prototypy? Uveď příklad.
- Co je konceptový drift a jak se liší od datového driftu?
- Jak bys vysvětlil(a), co tvé labely „jsou“, v Model Card pro moderaci obsahu?
- Proč je u sociálních tříd lepší více anotátorů a racionále anotací?
- Jakou metodou vysvětlování bys podpořil(a) důvěru v model u lékařské diagnózy?
8) Shrnutí do jedné stránky
- Spor o univerzálie není akademická kuriozita. Ovlivňuje definice tříd, annotaci, architektury, evaluaci i governance.
- Natural kinds (chemie, části biologie) nahrávají realistickým ontologiím a pevné evaluaci.
- Family resemblance (právo, moderace, psychologie) vyžaduje prototypy, škálování, vícenásobnou anotaci, drift.
- Kombinace kostra (realismus) + okraje (prototypy) bývá v praxi nejrobustnější.
- Dokumentuj ontologické volby, verzuj pojmy a zapojuj stakeholdery.
- „Pravda“ výstupu se testuje korespondencí, koherencí, pragmaticky; v různých doménách různě.
- Fairness stojí na tom, co považujeme za podstatnou vlastnost – i to je ontologická volba.
9) Mini-glosář
- Univerzálie: obecné pojmy/vlastnosti (např. člověkost, zánět).
- Realismus (umírněný): obecné rysy jsou reálné a ve věcech (ne mimo ně).
- Nominalismus: existují jen jednotliviny; obecné je název.
- Konceptualismus: obecné je pojem v mysli; v praxi často prototypy.
- Natural kinds: stabilní druhy s reálnými vlastnostmi (chemie, část biologie).
- Rodinná podobnost: pojem bez ostré esence, sdílené rysy se překrývají.
- Ontologický závazek: k čemu se „zavazujeme“, když naše teorie tvrdí, že to existuje.
- Concept drift: změna významu/hranice pojmu v čase; data drift = změna rozložení vstupů.
10) Doporučené zdroje (startovní sada)
- Armstrong, D. Universals and Scientific Realism – realismus o vlastnostech.
- Wittgenstein, L. Filosofická zkoumání (§§65–71 „rodinné podobnosti“).
- Rosch, E. „Principles of Categorization“; Lakoff, G. Women, Fire, and Dangerous Things – prototypy.
- Putnam, H.; Kripke, S. – význam a přirozené druhy.
- Snell, J. et al. „Prototypical Networks“ (2017) – prototypové učení.
- Koh, P. W. et al. „Concept Bottleneck Models“ (2020); Kim, B. et al. „TCAV“ (2018) – vysvětlování pojmy.
- OWL 2 a SHACL – standardy pro ontologii a validace grafů.
- Model Cards / Datasheets for Datasets – dokumentace, kde své ontologické volby popíšeš.