Digitální thanatologie vznikala z potřeby uspořádat si několik souvisejících problémů: rozšířenou mysl, digitální identitu, osobní data, paměť, umělou inteligenci, smrt a otázku osobní kontinuity.
Pokus vysvětlit tyto souvislosti někomu jinému se přitom ukázal jako způsob, jak je lépe pochopit sám. Některé pojmy proto používám jako pracovní nástroje. Neříkají nutně, jak svět definitivně je; pomáhají klást přesnější otázky.
Následující otázky a odpovědi zachycují tuto cestu uvažování. Doplňují soubor Digitální thanatologie a lze je číst také jako samostatný vstup do tématu.
1. Proč vůbec potřebuji pojem Multiplikační já?
Jeho potřebnost musím teprve obhájit.
Máme teorii rozšířené mysli, distribuovanou kognici, digitální identitu, narativní identitu, teorii rolí a další dobře rozpracované přístupy. Každý zachycuje určitou část problému.
Přesto mi mezi nimi něco chybí. Telefon může být nástrojem mé paměti. Profil na sociální síti je mojí reprezentací. Profesní databáze obsahuje údaje o mně. Jiný člověk si vytváří vlastní obraz mé osoby. Personalizovaný algoritmus může obsahovat model mého chování.
Nejsou to stejné věci. Přesto všechny nějak souvisejí s tím, čemu říkám „já“.
Multiplikační já mi má pomoci sledovat rozdíly mezi těmito vztahy v jednom rámci: co zapojuji do jednání, co mohu opravovat a co mi okolí připisuje. Základní otázka zní: Co se stane s představou osoby, jestliže její funkce, reprezentace a vztahy přestaneme hledat pouze uvnitř biologického organismu?
2. Kde ale Multiplikační já končí?
To zatím neumím určit jednou ostrou hranicí.
Pokud je součástí mého Multiplikačního já telefon, protože jej používám jako externí paměť, patří tam také cloudová záloha? A fotografie, kterou má někdo jiný? Jeho vzpomínka na mě? Úřední záznam? Algoritmický profil vytvořený bez mého vědomí?
Představa nádoby, do které jednotlivé věci buď patří, nebo nepatří, zde nestačí.
Sleduji proto především funkční zapojení, možnost korekce a přičítání projevu člověku. Doplňují je otázky původu záznamu a vztahového významu. Nejde o jednu stupnici, na jejímž konci by se informace automaticky stala osobou.
Pak Multiplikační já nevypadá jako rozšířený člověk s přesně vyznačeným okrajem. Připomíná spíše síť vztahů různé intenzity a různého druhu.
A právě otázka, kde v této síti končí „já“ a začíná pouhá „informace o mně“, zůstává otevřená.
3. Nedělám z obyčejné digitální stopy zbytečně část osobnosti?
To je oprávněná námitka.
Fotografie v databázi není totéž jako autobiografická paměť. Záznam nákupu není moje osobnost. Vyhledávací historie není moje mysl.
Proto je důležité neztotožnit digitální stopu s Multiplikačním já.
Digitální stopa může být materiálem, z něhož někdo mou osobnost rekonstruuje. Některé digitální systémy však mohou být zároveň aktivně integrovány do mého jednání – například kalendář, externí paměť nebo personalizovaný systém, kterému deleguji určitou činnost.
Nejde tedy o dvě jednoduše oddělené množiny ani o jediné kontinuum od dat k osobnosti. Potřebuji rozlišovat různé kombinace funkčního zapojení, reprezentace a kontroly. Kalendář může organizovat moje jednání, zatímco reklamní profil mě pouze odhaduje zvenčí. Oba zanechají digitální stopu, ale jejich vztah k mému životu je odlišný.
4. Co vlastně při smrti Multiplikačního já umírá?
Původně jsem měl sklon říci, že smrt způsobuje jeho dezintegraci. Jenže ani za života nejsou všechny jeho části skutečně sjednocené.
Nemám úplnou kontrolu nad tím, co si o mně pamatují jiní lidé. Nemohu libovolně změnit starý článek ani institucionální záznam. Různé mé role mohou obsahovat vzájemně rozporné projevy.
Co tedy smrt skutečně mění?
Především ukončuje možnost původního člověka nově vstupovat do interpretace sebe sama.
Dokud žiji, mohu říci:
„Ano, napsal jsem to, ale změnil jsem názor.“
„To byla ironie.“
„Takto už nechci být reprezentován.“
„Tento profil jsem vytvořil já, ale tento model už se mnou nemá nic společného.“
Po mé smrti mohou ostatní všechny tyto věci interpretovat. Já už jejich interpretaci nemohu doplnit další vlastní odpovědí.
Biologická smrt člověka ukončuje jeho možnost nově vstupovat do těchto vztahů a vyjadřovat vlastní stanovisko. V rámci Multiplikačního já mě zajímá, jak se tím mění autorita nad jeho přetrvávajícími reprezentacemi.
5. Není ale i tato „privilegovaná autorita“ iluzí?
Pokud jí myslím úplnou znalost sebe sama, pak určitě neobstojí.
Ani živý člověk není absolutním interpretem sebe sama. Ostatní mohou jeho jednání chápat jinak. Psycholog může upozornit na motivaci, kterou si člověk neuvědomuje. Historik může později zasadit jeho jednání do souvislostí, které sám neznal.
Přesto existuje rozdíl mezi výrokem:
„Domníváme se, že Jiří změnil názor“
a výrokem:
„Změnil jsem názor.“
Nejde o absolutní vlastnictví pravdy o sobě. Rozdíl spočívá v možnosti mluvit z vlastní perspektivy a vztahovat nové stanovisko k vlastnímu prožívání. Ani takové stanovisko nemusí být neomylné nebo upřímné.
Po smrti už nemůže přibýt nová vlastní odpověď původního člověka. Jeho dřívější výpovědi přitom mohou zůstat důležitým svědectvím.
6. Co tedy znamená „dezintegrace“?
Tímto slovem jsem původně spojoval několik odlišných procesů.
Nemusí znamenat rozpad všech komponent. Naopak – některé mohou po smrti fungovat ještě velmi dlouho.
Používám je proto pro rozpojení původních vazeb a ztrátu možnosti jejich další osobní koordinace.
Profesní profil, soukromé dopisy, rodinné fotografie a veřejné texty dál existují. Jejich původce však už nemůže jejich vztahy nově vysvětlovat nebo měnit vlastním jednáním.
Vznikne-li z nich později jednotný digitální model, jeho jednota už není jednotou původního člověka. Je alespoň částečně výsledkem práce těch, kteří data vybrali, interpretovali a spojili.
Tím se otevírá další otázka: Kdo je vlastně autorem posmrtné koherence člověka?
7. Proč používám pojem postbiologická osobnost?
Protože „digitální pozůstalost“ mi připadá v některých situacích příliš pasivní.
Archiv fotografií je pozůstalost. Ale co systém, který z mých textů, hlasu, rozhodnutí a vzpomínek vytváří nové odpovědi?
Zároveň nechci takový systém automaticky nazvat pokračováním osoby.
Postbiologická osobnost je pracovní označení pro odvozené informační, vztahové a funkční struktury spojené s konkrétním zemřelým člověkem. Mohou uchovávat jeho charakteristiky nebo vykonávat některé funkce. Označení jim samo nepřiznává vědomí, právní osobnost ani totožnost s původním člověkem.
Možná se později ukáže, že je tento termín příliš silný. I to by byl užitečný výsledek.
8. Kdyby AI dokonale napodobila zemřelého člověka, byl by to stále on?
Nevím – a samotná dokonalost napodobení tuto otázku neřeší.
Model může znát všechny dostupné životopisné údaje. Může používat stejný slovník, hlas i humor. Může předvídat odpovědi lépe než někteří přátelé původního člověka.
Stále však zůstává otázka, zda informační a behaviorální podobnost znamená subjektivní kontinuitu.
Zde se rozcházejí různé teorie osobní identity. Pro účely digitální thanatologie ale nemusím tento spor předem rozhodnout.
Stačí nepřeskočit z tvrzení:
„systém se chová podobně jako X“
k tvrzení:
„systém je X“.
Mezi těmito větami leží téměř celý filosofický problém.
9. Co tedy po člověku skutečně pokračuje?
Přesnější je ptát se, co pokračuje a prostřednictvím koho nebo čeho.
Mohou pokračovat data.
Může pokračovat jeho příběh.
Mohou pokračovat vztahy ostatních lidí k němu.
Mohou pokračovat některé jeho společenské funkce.
Model může napodobovat určitý způsob argumentace nebo rozhodování.
Může pokračovat systém schopný vytvářet nové projevy.
To jsou ale různé kontinuity. Nemám důvod je všechny nazvat přežitím člověka.
10. Kdy archiv zpřístupňuje minulost a kdy model vytváří nový obsah?
To je pro mě jedna z nejzajímavějších hranic.
Archiv uchovává dopis, který člověk skutečně napsal.
Interaktivní archiv může vhodný dopis vyhledat jako odpověď na otázku.
Generativní systém může vytvořit větu, kterou člověk nikdy nenapsal, ale která odpovídá jeho známému stylu a názorům.
A další systém může vytvořit názor na událost, která nastala až po jeho smrti.
Generativní systém tedy vytváří nový obsah odvozený od minulosti. Pokud jeho původ přiznáme, může jít o interpretaci nebo otevřenou fikci. Pokud jej zastřeme, může být výstup zaměněn za něco, co člověk skutečně řekl nebo udělal.
Důležitou hranicí proto není samotný vznik nové věty, ale způsob, jakým ji přičítáme původní osobě.
11. Kdo potom mluví?
Pokud přehrávám autentickou nahrávku, mluví zemřelý člověk v minulosti.
Pokud systém sestaví odpověď z několika jeho vět, situace je méně jasná.
Pokud jazykový model vytvoří novou odpověď, potřebuji odlišit zdrojové texty, mechanismus generování a rozhodnutí výstup zveřejnit. Vývojář, provozovatel i kurátor mají různé role. Technický původ věty není sám odpovědí na otázku právního autorství nebo odpovědnosti.
Proto mi připadá důležité rozlišovat:
původní záznam, rekonstrukci doloženého postoje, odhad a nový syntetický výrok. Samostatnou otázkou je, zda systém smí také provádět kroky mimo rozhovor. Nejde o jedinou řadu stupňů od člověka k autonomii.
Vedle otázky „Je to ještě on?“ proto stojí praktická otázka:
„Kdo nese odpovědnost za to, co nyní vzniká jeho jménem?“
12. Odtud pochází myšlenka práva na posmrtné mlčení?
Ano. Slovo „právo“ zde označuje především obhajovaný etický nárok, nikoli tvrzení o obecně platném právním institutu.
Jde mi o jednoduchý problém.
Pokud člověk něco nikdy neřekl, neměli bychom nový syntetický výrok bez dalšího vydávat za jeho autentický výrok.
Zemřelému dlužíme také to, abychom naše rekonstrukce nezaměňovali za jeho vlastní projevy. Souhlas s uchováním nahrávky navíc automaticky neopravňuje k vytváření nových vět jeho hlasem.
Původně jsem používal název „právo na neautentičnost“. Mínil jsem tím přiznání syntetického původu, ale název mohl znamenat pravý opak. Posmrtné mlčení přesněji označuje ochranu před neautorizovaným připsáním nového osobního projevu. Nezakazuje vzpomínání, kritiku ani zjevně označenou fikci.
13. Komu vlastně patří moje digitální minulost?
Ani tady už mi jednoduchá odpověď „mně“ nestačí.
Moje e-mailová schránka obsahuje dopisy jiných lidí. Rodinná fotografie obsahuje další osoby. Soukromý chat vznikl společnou komunikací.
Pokud by někdo z těchto dat vytvořil můj posthumózní model, použil by současně části digitálního života mnoha dalších lidí.
Proto používám pojem síťová pozůstalost.
Ani tento pojem neznamená, že všechno má být právně společným vlastnictvím. Připomíná jen, že lidská osobnost vzniká ve vztazích – a její digitální pozůstatky tyto vztahy nesou dál.
14. Může digitální reprezentace změnit způsob truchlení?
Může do truchlení vstupovat jinak než běžný archiv. Její konkrétní účinky je však třeba zkoumat.
Fotografie, dopis a chatbot nejsou psychologicky stejným objektem.
U fotografie mohu rozpoznat stopu minulého okamžiku, přestože i její výběr a popis mohou ovlivnit výklad. Generativní systém navíc odpovídá na otázku, kterou jsem zemřelému nikdy nepoložil.
To vytváří nový typ vztahové situace.
Samotná možnost odpovědi ještě nerozhoduje, zda používání člověku prospívá. Potřebuji znát okolnosti, očekávání uživatele, konstrukci systému a možnost kontakt odmítnout.
Právě proto mi připadá zajímavější tuto situaci zkoumat než ji předem hodnotit.
15. Co znamená druhá smrt digitální reprezentace?
Po biologické smrti člověka mohou přetrvávat některé reprezentace a funkce. I ty však mají své podmínky trvání a mohou zaniknout.
Účet může být smazán.
Data se mohou poškodit.
Formát se může stát nečitelným.
Firma může službu ukončit.
Model může být nahrazen tak zásadně, že pozůstalí již nerozpoznávají původní digitální reprezentaci.
Patrick Stokes používá v souvislosti s digitálními ostatky pojem „second death“ neboli druhá smrt (2015). V mém rámci mě zajímá, které vazby postupně zanikají: data, přístup k nim, srozumitelnost nebo možnost interakce.
Nemusí tedy existovat jediný okamžik druhé smrti. Může jít o sérii různých ztrát. Jde o vztahovou metaforu; vypnutí systému samo o sobě neznamená usmrcení člověka a nezakládá povinnost provozovat jej navždy.
16. Musí postbiologická osobnost nejprve biologicky žít?
Tady mě dostal Jára Cimrman.
Pokud vytvořím digitálního Cimrmana, který zná vlastní životopis, reaguje cimrmanovským způsobem a vytváří nové „Cimrmanovy“ názory, vzniká něco velmi podobného digitální simulaci zemřelého.
Jenže žádný biologický Jára Cimrman předtím nezemřel.
Pokud jej nazvu postbiologickou osobností, slovo postbiologický začíná ztrácet svůj význam.
Rozlišuji proto reprezentaci odvozenou od konkrétního zemřelého člověka a syntetickou postavu bez takového předchůdce. U Cimrmana jde o autorsky vytvořenou postavu a tradici jejího ztvárňování. Obě simulace mohou působit podobně, ale jejich zdroje a nárok na historickou věrnost jsou jiné. Ani slovo „osobnost“ samo nepřiznává systému vědomí.
Cimrman je tedy méně žertovnou námitkou, než se na první pohled zdá.
17. A co Ježíš Nazaretský, Sókratés nebo jiná historická osobnost?
Tady se problém obrací.
V historické a kulturní rovině lze zkoumat, jak působení zemřelých pokračuje prostřednictvím textů, institucí, tradic a interpretací. Teologická tvrzení o vzkříšení nebo posmrtném životě tím neposuzuji. U historických osobností je navíc nutné zkoumat, které prameny zachycují vlastní projevy a které pozdější svědectví či tradici.
To připomíná, že postbiologická přítomnost není vynález digitálního věku.
Lidé působili prostřednictvím vzpomínek, děl a institucí dávno před vznikem digitálních technologií.
Digitální technologie však mohou tuto starou vlastnost lidské kultury zásadně proměnit. Reprezentace už nemusí pouze čekat, až ji někdo přečte. Může odpovídat.
Při udělených oprávněních může také provádět určité kroky, například odeslat zprávu. Takové technické jednání samo nic nedokazuje o jejím vědomí.
18. Co je tedy na digitálním věku opravdu nové?
Ne to, že mrtví zůstávají mezi živými.
Nová může být kombinace:
rozsahu dat, možností jejich uchování a dostupnosti, algoritmické analýzy, generování nového obsahu a automatizovaného jednání. Dlouhodobá dostupnost přitom závisí na průběžné správě, nikoli jen na tom, že data jednou vznikla.
Dopis po pradědečkovi může ovlivnit moje rozhodnutí.
Digitální model pradědečka by mi však mohl každé ráno napsat, co si myslí o mém rozhodnutí.
To už je jiný vztah mezi minulostí a přítomností.
19. Nevede celý koncept nakonec k digitální nesmrtelnosti?
Právě tomuto závěru se snažím nepodlehnout.
Přetrvání dat není přetrváním vědomí.
Podobnost není identita.
Funkce není subjektivita.
Reprezentace není automaticky osoba.
Možná jednou vzniknou technologie, které tyto hranice znovu problematizují. Současný rámec však nepotřebuje předpokládat, že se tak stane.
Digitální thanatologie je pro mě zajímavá právě proto, že se může zabývat tím, co po člověku zůstává, aniž musí slibovat jeho nesmrtelnost.
20. Je tedy Multiplikační já teorie?
Přesněji jej označuji jako heuristický rámec.
Tedy pracovní pomůcku, která má vést k užitečným rozlišením a otázkám, ne k předem zaručené odpovědi.
Jeho hodnotu nevidím v tom, že by jednou provždy určoval, co člověk je. Je užitečný tehdy, pokud díky němu dokážu položit otázku, kterou bych bez něj přehlédl.
Když narazím na případ, který do něj nezapadá, nemusí to znamenat, že případ je chybný.
Možná je chybný model.
A právě tehdy začíná být přemýšlení zajímavé.
21. Co tedy vlastně Digitální thanatologie hledá?
Na začátku jsem si kladl poměrně jednoduchou otázku:
Co se stane s digitálními částmi člověka, když člověk zemře?
Postupně se však otázka změnila.
Co je „digitální část člověka“?
Co znamená, že něco „patří k osobnosti“?
Co z osobnosti může pokračovat bez organismu?
Kdo smí tuto kontinuitu interpretovat?
Kdy reprezentace přestává připomínat minulost a začíná vytvářet nové jednání?
A nakonec:
Co vlastně myslíme slovem „já“, jestliže některé jeho funkce mohou existovat mimo biologického člověka a některé z nich jej mohou přežít?
V tomto smyslu pro mě Digitální thanatologie není hotovou odpovědí.
Je způsobem, jak si tuto otázku postupně zpřesňovat.
Zdroje a související čtení
FAQ doplňuje soubor Jiřího Stibora Digitální thanatologie: Smrt, paměť a identita v době umělé inteligence. Otázky 1–9 navazují zejména na kapitoly 1, 3 a 11; otázky 10–13 na kapitoly 4–7; otázky 14–15 na kapitoly 8–9 a otázky 16–21 na kapitoly 10–12. Odborné zdroje jsou uvedeny u jednotlivých kapitol.
STOKES, Patrick. 2015. Deletion as Second Death: The Moral Status of Digital Remains. Ethics and Information Technology, 17(4), 237–248. https://doi.org/10.1007/s10676-015-9379-4