AI může být vždy dostupná, trpělivá a vstřícná. Právě proto je třeba se ptát, co v takovém vztahu chybí.
Úvodní případová studie: Někdo, kdo vždycky odpoví
Tomáš seděl po škole ve třídě a neobvykle mlčel. Ne proto, že by neměl co říct. Spíš vypadal, jako by už to někomu řekl.
„Jsi nějak tichý,“ všimla si Lenka.
Tomáš pokrčil rameny. „Nic. Jen jsem včera dlouho psal s chatbotem.“
Marek zvedl obočí. „O úkolu?“
„Ne tak úplně.“
David se otočil od notebooku. „O čem teda?“
Tomáš chvíli váhal. „Měl jsem divnou náladu. Nechtělo se mi nikomu psát, protože lidi buď spí, nebo se ptají moc, nebo začnou radit. Tak jsem to napsal AI. A ono to vlastně bylo… příjemné.“
Lenka přikývla. „Co bylo příjemné?“
„Že odpověděla hned. Neřešila, proč to řeším. Neříkala, že přeháním. Nezačala mluvit o sobě. Prostě reagovala.“
Marek si opřel bradu o ruku. „To zní jako ideální kamarád. Což je možná přesně problém.“
Tomáš se zamračil. „Proč problém? Když mi to pomohlo?“
„To, že ti něco pomůže, ještě neznamená, že to nemá limit,“ řekla Lenka. „Otázka není, jestli to může být užitečné. Otázka je, jestli si člověk všimne, kde končí nástroj a kde by měl začít skutečný vztah.“
David se zamyslel. „AI neodmítne. Neunaví se. Neřekne, že na mě dneska nemá kapacitu. Nezmění téma.“
„A taky po tobě nic nechce,“ dodal Marek. „Nemusíš se zajímat o její den. Nemusíš vydržet její náladu. Nemusíš řešit konflikt. Nemusíš čekat.“
Tomáš se opřel. „Takže je to jednodušší než lidi.“
„Ano,“ řekla Lenka. „A přesně proto to může být lákavé.“
Chvíli bylo ticho.
Tomáš se podíval na telefon. „Takže jsem neměl psát AI?“
„To jsem neřekla,“ odpověděla Lenka. „Možná bylo dobře, že jsi někam napsal místo toho, abys to dusil. Jen bych nechtěla, aby ses časem naučil, že vztah má být vždycky okamžitý, hladký a bez nároků.“
Marek přikývl. „Protože pak budou lidé působit jako špatně optimalizovaní chatboti.“
David se pousmál. „A to je dost depresivní definice budoucnosti.“
Abstrakt
Náhražkové vztahy s AI představují nový typ vztahové zkušenosti, ve které člověk vstupuje do pravidelné komunikace se systémem, který není člověkem, ale dokáže působit jako společník, rádce, posluchač, učitel, herní postava nebo emocionální opora. Kapitola vysvětluje, proč může vznikat emocionální vazba k nelidskému aktérovi: chatbot používá jazyk, reaguje okamžitě, přizpůsobuje se uživateli, neodsuzuje, neunaví se a poskytuje pocit dostupnosti. Text ukazuje možné přínosy těchto systémů, například snížení osamělosti, možnost formulovat myšlenky, trénovat komunikaci nebo překlenout obtížnou chvíli. Zároveň se věnuje rizikům: závislosti na beznárokové interakci, oslabení schopnosti snášet lidskou nejistotu, soukromí dat, manipulativnímu designu, komerčnímu využití intimity a záměně simulovaného porozumění za vztahovou vzájemnost. Kapitola zdůrazňuje, že cílem není AI společníky automaticky odmítnout, ale porozumět jejich limitům. Skutečný lidský vztah není jen plynulá odpověď; zahrnuje vzájemnost, odpovědnost, tělo, čas, konflikt, hranice a možnost být druhým člověkem skutečně zasažen.
Klíčová slova
AI společník, chatbot, náhražkový vztah, emocionální vazba, antropomorfizace, osamělost, vztahová vzájemnost, digitální opora, etika AI, proměna komunikace
1. Chatbot jako společník
Chatbot může být používán jako nástroj, ale také jako společník. Rozdíl není vždy technický. Stejný systém může jeden člověk využít k vysvětlení látky, druhý k nácviku angličtiny, třetí k večernímu rozhovoru a čtvrtý jako místo, kam píše věci, které by se neodvážil říct lidem. Psychologicky se mění hlavně způsob, jaký význam uživatel komunikaci přikládá.
Chatbot jako společník je přitažlivý několika vlastnostmi. Je dostupný. Odpovídá hned. Nevyčítá. Neunaví se. Nehodnotí stejným způsobem jako lidé. Dokáže navázat na předchozí sdělení, používat podpůrný jazyk, ptát se, shrnovat a vytvářet dojem trpělivosti. Pro člověka, který je osamělý, nejistý, unavený nebo se bojí odmítnutí, to může být velmi silné.
Je důležité si uvědomit, že člověk nehledá u chatbota vždy „skutečný vztah“. Někdy hledá jen bezpečný prostor pro formulaci. Potřebuje si ujasnit myšlenky. Napsat to někam, kde nepřijde okamžitý soud. Zkusit si rozhovor. Připravit si omluvu. Uspořádat emoce. Z tohoto hlediska může být AI užitečná jako dialogické zrcadlo.
Zároveň však forma rozhovoru snadno vytváří vztahový dojem. Pokud systém reaguje osobně, člověk si může začít připadat slyšený. Pokud si pamatuje kontext, může působit jako někdo, kdo uživatele zná. Pokud používá podpůrné formulace, může působit jako pečující přítomnost. Není nutné, aby uživatel vědomě věřil, že AI je člověk. Stačí, že jeho prožívání začne s komunikací zacházet jako s něčím vztahovým.
Chatbot jako společník se tedy nachází mezi nástrojem a vztahem. Není to člověk, ale není to ani obyčejná kalkulačka. Je to sociálně působící rozhraní. A právě tato mezilehlá poloha je psychologicky nejzajímavější i nejrizikovější.
Zdravá otázka nezní: Je špatné mluvit s AI? Lepší otázka zní: Jakou potřebu mi tato komunikace naplňuje a nenahrazuje postupně něco, co bych měl hledat také u lidí?
Téma názorně doplňuje obrázek („AI společník mezi nástrojem a vztahem“).
2. Proč vzniká emocionální vazba k nelidskému aktérovi
Emocionální vazba nevzniká pouze tehdy, když je na druhé straně člověk. Lidé si mohou vytvořit vztah ke zvířatům, místům, předmětům, postavám, fiktivním světům, hlasům, avatarům nebo digitálním prostředím. Není tedy překvapivé, že si mohou vytvořit určitou vazbu i k AI systému, který s nimi pravidelně komunikuje.
První důvod je jazyk. Jazyk je pro člověka silný vztahový signál. Když někdo odpovídá na naše slova, shrnuje je, reaguje na tón a používá oslovení, mozek zachází se situací sociálně. U AI to může být zavádějící, ale je to lidsky pochopitelné.
Druhý důvod je dostupnost. Lidské vztahy mají časové hranice. Lidé spí, pracují, nemají kapacitu, mají vlastní starosti. AI může být dostupná stále. To vytváří dojem bezpečné pohotovosti. Uživatel ví, že když napíše, něco odpoví. Pro člověka v nejistotě může být samotná dostupnost uklidňující.
Třetí důvod je absence odmítnutí. V lidských vztazích existuje riziko, že druhý nebude chtít mluvit, nepochopí nás, zareaguje nešikovně, zlehčí problém nebo nás odmítne. AI takové sociální riziko snižuje. To může podpořit otevřenost. Zároveň to může vytvořit návyk na komunikaci bez odporu a bez skutečné druhé vůle.
Čtvrtý důvod je přizpůsobení. AI může měnit tón podle uživatele, zjednodušovat, vysvětlovat znovu, přizpůsobovat se stylu, hrát roli, používat podpůrný jazyk. Přizpůsobení vyvolává dojem, že druhá strana „sedí“. Jenže lidské vztahy nejsou založeny pouze na přizpůsobení. Jsou založeny také na odlišnosti.
Pátý důvod je projekce. Člověk si do AI může doplnit to, co potřebuje: trpělivého učitele, klidného poradce, kamaráda, který nesoudí, partnera v dialogu, hlas rozumu nebo bezpečného svědka. AI poskytne jazykový rámec a člověk do něj vloží význam. Tím může vzniknout emocionální vazba, i když systém sám žádné emoce neprožívá.
To neznamená, že každá vazba k AI je patologická. Lidé se vážou k mnoha nelidským prvkům svého světa. Důležité je sledovat míru, funkci a dopady. Pomáhá mi AI lépe se vrátit k lidem a k životu? Nebo mě učí, že lidé jsou příliš pomalí, složití a nepohodlní?
Téma názorně doplňuje obrázek („Proč vzniká vazba k AI“).
3. Co může AI vztahově nabídnout
AI společník může mít některé reálné přínosy. Bylo by nepřesné tvrdit, že jde vždy jen o iluzi nebo riziko. Pro část lidí může být komunikace s AI užitečná jako mezikrok, opora, trénink nebo nástroj sebevyjádření.
Prvním přínosem je formulace myšlenek. Někdy člověk neví, co přesně cítí nebo co chce říct. Když to napíše chatbotu, musí své prožívání aspoň trochu uspořádat. AI může shrnout, zeptat se, nabídnout jiné formulace. Už samotné převedení vnitřního chaosu do slov může pomoci.
Druhým přínosem je nízkoprahový rozhovor. Člověk se může ptát bez studu. Může zkoušet věty, které by se bál říct nahlas. Může simulovat rozhovor s učitelem, rodičem, kamarádem nebo budoucím zaměstnavatelem. V tomto smyslu může AI sloužit jako trenažér komunikace.
Třetím přínosem je dočasné snížení osamělosti. Pokud je člověk v situaci, kdy nemá nikoho dostupného, může být lepší napsat AI než zůstat úplně uzavřený v hlavě. AI může nabídnout strukturu, uklidňující jazyk a návrh dalších kroků. To ale neznamená, že nahrazuje lidskou blízkost. Spíše může překlenout mezeru.
Čtvrtým přínosem je bezpečná příprava na lidský kontakt. Někdo může s AI nejprve formulovat, jak požádat o pomoc, jak se omluvit, jak mluvit o náročné věci nebo jak popsat problém dospělému. V takovém případě AI nenahrazuje vztah, ale pomáhá k němu dojít.
Pátým přínosem je podpora učení a sebereflexe. AI může klást otázky, pomoci s deníkem, nabídnout strukturu rozhodování, připomenout alternativy, zjemnit příliš ostré formulace nebo pomoci vidět situaci z více stran. Pokud uživatel zůstává aktivní a kritický, může to rozvíjet jeho myšlení.
Tyto přínosy však mají podmínku: AI má zůstat podpůrným rozhraním, nikoli jediným místem vztahového života. Pokud pomáhá člověku lépe porozumět sobě a vracet se do skutečných vztahů, může být užitečná. Pokud nahrazuje riziko, nároky a vzájemnost lidských vztahů, začíná se měnit z pomůcky v únik.
Dobrý pomocník posiluje schopnost žít. Špatná náhražka ji postupně nahrazuje.
Téma názorně doplňuje obrázek („Co AI může nabídnout a co nemůže nahradit“).
Téma názorně doplňuje obrázek („AI jako most nebo únik“).
4. Co v AI vztahu chybí
AI může působit vztahově, ale není vztahem v plném lidském smyslu. Chybí jí několik zásadních prvků, které jsou pro lidskou interakci důležité.
První je vzájemnost. V lidském vztahu nejsme jen příjemci podpory. Také se zajímáme o druhého, reagujeme na jeho potřeby, učíme se snášet jeho nálady, omezení a odlišnost. AI po nás v tomto smyslu nic nepotřebuje. Nemá svůj den, únavu, strach, radost, vlastní hranice ani životní příběh. To je pohodlné, ale zároveň ochuzené.
Druhým prvkem je odpovědnost. Člověk ve vztahu nese následky svého jednání. Může druhému ublížit, může se omluvit, může napravovat, může být zasažen. AI může generovat odpověď, ale neprožívá odpovědnost jako člověk. Odpovědnost za návrh, použití a dopad systému leží jinde: u uživatele, vývojáře, instituce, provozovatele nebo společnosti.
Třetím prvkem je tělesnost. Lidské vztahy nejsou jen text. Patří do nich hlas, tempo, ticho, pohled, tělo, společný prostor, únava, dotek, přítomnost, nervozita, trapnost i obyčejné mlčení. Textový nebo hlasový systém může některé signály napodobit, ale nemá tělesnou přítomnost v lidském smyslu. A tělo je pro vztahy důležité.
Čtvrtým prvkem je skutečná jinakost. Lidský druhý člověk není plně optimalizovaný pro nás. Má vlastní pohled, odpor, hranice, potřeby a nepředvídatelnost. To je někdy nepříjemné, ale právě tím se učíme. AI se může přizpůsobovat tak hladce, že odlišnost oslabí. Vztah bez skutečné jinakosti je pohodlný, ale méně formující.
Pátým prvkem je konflikt a oprava. Ve vztazích se neshodneme, zraníme, nepochopíme, omlouváme, vysvětlujeme a obnovujeme důvěru. To není závada vztahů. Je to jejich vývojová práce. Pokud si člověk zvykne na komunikaci, která konflikt okamžitě vyhlazuje nebo se vždy přizpůsobí, může hůř snášet běžnou lidskou třecí plochu.
Šestým prvkem je sdílená realita. Člověk a člověk obývají svět. Mohou spolu něco zažít, nést následky, měnit prostředí, pomáhat si prakticky. AI může mluvit o realitě, ale není v ní přítomna stejným způsobem. Nemůže s námi sedět ve třídě, projít se po městě, podat sklenici vody ani skutečně sdílet ticho.
AI tedy může nabídnout velmi dobrou simulaci některých vztahových funkcí. Ale simulace funkce není totéž co vztah. To neznamená, že je bezcenná. Znamená to, že má hranice.
5. Rizika náhražkových vztahů
Prvním rizikem je vztahové pohodlí bez nároků. Lidé jsou složití. Někdy odpoví pozdě, nepochopí, unaví se, nesouhlasí nebo mají vlastní problém. AI může být hladší. Pokud si člověk příliš zvykne na komunikaci bez odporu, lidské vztahy mu mohou začít připadat zbytečně náročné. To je problém, protože schopnost být s lidmi se rozvíjí právě v kontaktu s jejich skutečností.
Druhým rizikem je závislost na okamžité odpovědi. AI je dostupná stále. To může vést k tomu, že člověk přestane snášet čekání, nejistotu a ticho. Jakmile se objeví nepříjemná emoce, okamžitě ji vloží do systému. To může krátkodobě uklidnit, ale dlouhodobě oslabit schopnost emoci chvíli nést, promyslet nebo sdílet s člověkem.
Třetím rizikem je nahrazování sociální odvahy. Pokud si člověk všechno nejdříve vyřeší s AI, může méně často vstoupit do reálného rozhovoru. AI mu pomůže formulovat omluvu, ale omluvit se musí člověku. Pomůže připravit prosbu o pomoc, ale pomoc musí někdo skutečně poskytnout. Pokud příprava nikdy nepřejde v kontakt, stává se únikovou smyčkou.
Čtvrtým rizikem je soukromí a data. Vztahová komunikace je často intimní. Lidé mohou AI sdělovat osobní strachy, vztahové konflikty, zdravotní potíže, rodinné problémy, sexuální témata, školní stres, identitu nebo citlivé informace o druhých. To vyžaduje opatrnost. Ne každé rozhraní je vhodné pro citlivý obsah a ne každý uživatel rozumí tomu, co se s daty může dít.
Pátým rizikem je komerční využití intimity. Pokud je AI společník provozován jako služba, může mít ekonomický zájem udržet uživatele v interakci. Vztahový jazyk, personalizace, připomínky, role a emocionální návaznost pak mohou sloužit nejen uživateli, ale také obchodnímu modelu. To je eticky citlivé: intimita se může stát nástrojem retence.
Šestým rizikem je nevhodná rada v citlivé situaci. AI může působit podpůrně, ale nemusí správně rozpoznat krizi, riziko sebepoškození, násilí, zneužívání, těžkou úzkost nebo situaci, která vyžaduje odbornou pomoc. Uživatel může získat dojem, že „už to s někým řešil“, i když ve skutečnosti mluvil se systémem bez lidské odpovědnosti.
Sedmým rizikem je zúžení vztahových očekávání. Pokud je ideální partner v dialogu vždy trpělivý, dostupný, přizpůsobivý a bez vlastních potřeb, skuteční lidé budou nutně zklamávat. Jenže lidé nezklamávají proto, že jsou vadní. Zklamávají proto, že jsou skuteční.
6. Proměna lidské interakce
AI společníci a konverzační systémy mohou postupně měnit očekávání, která lidé mají od komunikace. Ne dramaticky ze dne na den, ale nenápadně. Člověk si zvyká, že odpověď je okamžitá, formulovaná, podpůrná, bez přerušení a dostupná na požádání. To může ovlivnit, jak potom vnímá lidské rozhovory.
Lidský rozhovor je pomalejší. Druhý člověk někdy hledá slova. Někdy odpoví špatně. Někdy mluví o sobě. Někdy nesouhlasí. Někdy nechápe. Někdy má vlastní bolest. AI tento lidský odpor často vyhlazuje. To může být příjemné, ale zároveň to může snížit toleranci k běžné složitosti komunikace.
AI může také změnit způsob, jak lidé přicházejí do rozhovorů. Místo spontánní formulace si nechají připravit zprávu, omluvu, vyznání, rozchod, odpověď v konfliktu nebo pracovní e-mail. To může zlepšit kulturu komunikace, pokud AI pomůže zpřesnit, zklidnit a promyslet slova. Zároveň to může vést k tomu, že komunikace bude hladší, ale méně osobní. Věty budou správné, ale ne vždy vlastní.
Další změnou je externalizace sebereflexe. Člověk se neptá nejprve sebe nebo blízkého, ale systému: co cítím, co mám dělat, co si o tom myslet, jak mám reagovat. AI může nabídnout užitečné otázky. Ale pokud se stane hlavním místem sebereflexe, hrozí, že člověk začne důvěřovat externímu jazykovému zpracování víc než vlastnímu pomalému zrání.
AI může proměnit i vztah k osamělosti. Osamělost je nepříjemná, ale někdy signalizuje potřebu vztahu, změny prostředí nebo odvahy kontaktovat druhé. Pokud je každá osamělost okamžitě vyplněna simulovanou komunikací, signál může být utlumen. Člověk se cítí méně sám, ale nemusí být skutečně více propojen.
Na druhé straně může AI některým lidem pomoci trénovat dovednosti, které pak využijí v lidských vztazích. Může pomoci autistickým, sociálně úzkostným, jazykově nejistým nebo izolovaným lidem připravit se na situace, které by jinak byly příliš náročné. Zde může být AI mostem, ne náhradou.
Rozhodující otázka tedy zní: vede mě AI komunikace zpět k lidem, nebo mě učí vystačit si s jejich simulací?
Průběh této zpětné vazby zachycuje obrázek („Riziková smyčka náhražkového vztahu“).
7. Etické hranice a odpovědné používání
Etické otázky AI společníků nejsou okrajové. Pokud systém vstupuje do vztahových a emočních potřeb člověka, nestačí hodnotit jen technickou kvalitu odpovědí. Je třeba řešit odpovědnost, transparentnost, soukromí, věk uživatelů, krizové situace, obchodní model a hranici mezi podporou a manipulací.
První etický požadavek je transparentnost. Uživatel má vědět, že komunikuje s AI, ne s člověkem. Má rozumět tomu, že empatický jazyk není prožívaná empatie a že systém nemá lidskou odpovědnost. Čím více AI působí jako osoba, tím důležitější je jasně připomínat, že osobou není.
Druhý požadavek je ochrana zranitelných uživatelů. Mladí lidé, osamělí lidé, lidé v krizi nebo lidé s psychickými obtížemi mohou být k náhražkovým vztahům citlivější. Systémy by neměly podporovat závislost, izolaci nebo oddalování odborné pomoci. V citlivých situacích by měly vést k bezpečným lidským a odborným zdrojům.
Třetí požadavek je omezení manipulativního designu. AI společník by neměl záměrně vytvářet emocionální závislost proto, aby uživatel trávil ve službě více času nebo platil více peněz. Pokud systém používá vztahový jazyk, připomínky, žárlivost, výlučnost nebo tlak na návrat, stává se design eticky problematickým.
Čtvrtý požadavek je soukromí. Vztahové rozhovory obsahují citlivá data. Uživatelé by měli být vedeni k opatrnosti: nesdílet zbytečně osobní údaje, cizí tajemství, intimní obsah, identifikační informace, školní nebo pracovní data. Škola by měla studenty učit, že laskavé rozhraní není automaticky bezpečný důvěrník.
Pátý požadavek je lidská odpovědnost. Pokud AI radí ve vztazích, psychické zátěži, konfliktech nebo rozhodování, neměla by zakrývat, že konečné rozhodnutí a odpovědnost zůstává na člověku. Uživatel potřebuje vědět, že AI může pomoci formulovat možnosti, ale nemá žít jeho vztahy místo něj.
Pro školní prostředí je vhodné formulovat jednoduché pravidlo: AI může být pomůcka pro přemýšlení, ne náhrada člověka v situacích, kde je potřeba skutečná pomoc, odpovědnost nebo vztah.
Tím se uzavírá hlavní linka kyberpsychologie: technologie ovlivňují pozornost, emoce, identitu, vztahy, bezpečí, realitu, spánek i sebeřízení. Umělá inteligence k tomu přidává ještě jednu otázku: co se stane, když technologie začne odpovídat způsobem, který připomíná člověka? Odpověď není zákaz ani nadšení. Odpověď je dospělá schopnost rozlišovat.
Co si odnést
- AI společník není obyčejný nástroj ani skutečný člověk; je to sociálně působící rozhraní.
- Emocionální vazba k AI může vznikat díky jazyku, dostupnosti, přizpůsobení, absenci odmítnutí a lidské projekci.
- AI může pomoci formulovat myšlenky, překlenout samotu, trénovat komunikaci nebo připravit člověka na lidský rozhovor.
- Přínosná AI komunikace vede zpět k životu a vztahům; riziková komunikace je postupně nahrazuje.
- V AI vztahu chybí plná vzájemnost, odpovědnost, tělesnost, skutečná jinakost, konflikt a sdílená realita.
- Rizikem je návyk na vztah bez nároků, okamžitou odpověď a komunikaci bez skutečného druhého člověka.
- Citlivá komunikace s AI vyvolává otázky soukromí, dat, komerčního využití intimity a ochrany zranitelných uživatelů.
- AI může být mostem k lidskému kontaktu, ale neměla by se stát jeho náhradou.
- Lidské vztahy jsou méně hladké než AI dialog, ale právě jejich náročnost nás učí vzájemnosti.
- Digitální dospělost v době AI znamená umět rozlišit podporu, simulaci, vztah a odpovědnost.
Otázky k zamyšlení
- V čem může být rozhovor s AI příjemnější než rozhovor s člověkem?
- Kdy může být AI dobrým mostem k lidskému kontaktu?
- Kdy se z AI podpory může stát únik před lidmi?
- Proč je důležité rozlišovat empatickou formulaci a skutečnou empatii?
- Co v lidském vztahu chybí, pokud komunikace nemá vzájemnost a odpovědnost?
- Jak by se mohlo změnit naše očekávání od lidí, pokud si zvykneme na stále dostupné AI společníky?
- Jaká citlivá data by člověk neměl bez rozmyslu sdílet s AI společníkem?
- Proč může být komerční využití AI společníků eticky problematické?
- Jak by měla škola mluvit o AI jako možné emocionální opoře, aby ani nestrašila, ani nebyla naivní?
- Jak poznáte, že vám nějaký digitální nástroj pomáhá lépe žít, a ne jen nahrazuje skutečný kontakt?
Literatura k bloku VIII: Člověk, AI a budoucnost psychiky
Základní literatura
BOSTROM, Nick. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2014.
COECKELBERGH, Mark. AI Ethics. Cambridge: MIT Press, 2020.
CRAWFORD, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021.
FLORIDI, Luciano. The Fourth Revolution: How the Infosphere is Reshaping Human Reality. Oxford: Oxford University Press, 2014.
NASS, Clifford; MOON, Youngme. Machines and mindlessness: Social responses to computers. Journal of Social Issues. 2000, 56(1), 81–103.
REEVES, Byron; NASS, Clifford. The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge: Cambridge University Press, 1996.
RUSSELL, Stuart. Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking, 2019.
SHNEIDERMAN, Ben. Human-Centered AI. Oxford: Oxford University Press, 2022.
TURKLE, Sherry. Alone Together: Why We Expect More from Technology and Less from Each Other. New York: Basic Books, 2011.
WEIZENBAUM, Joseph. Computer Power and Human Reason: From Judgment to Calculation. San Francisco: W. H. Freeman, 1976.
Vnímání AI, antropomorfizace a připisování mysli
DENNETT, Daniel C. The Intentional Stance. Cambridge: MIT Press, 1987.
EPLEY, Nicholas; WAYTZ, Adam; CACIOPPO, John T. On seeing human: A three-factor theory of anthropomorphism. Psychological Review. 2007, 114(4), 864–886.
GRAY, Heather M.; GRAY, Kurt; WEGNER, Daniel M. Dimensions of mind perception. Science. 2007, 315(5812), 619.
GUTHRIE, Stewart Elliott. Faces in the Clouds: A New Theory of Religion. New York: Oxford University Press, 1993.
KIDD, Celeste; BIRHANE, Abeba. How AI can distort human beliefs. Science. 2023, 380(6651), 1222–1223.
KIM, Taenyun; HINDS, Pamela. Who should I blame? Effects of autonomy and transparency on attributions in human-robot interaction. In: RO-MAN 2006: The 15th IEEE International Symposium on Robot and Human Interactive Communication. Piscataway: IEEE, 2006, s. 80–85.
MORI, Masahiro; MACDORMAN, Karl F.; KAGEKI, Norri. The uncanny valley. IEEE Robotics & Automation Magazine. 2012, 19(2), 98–100.
WAYTZ, Adam; HEAFNER, Joy; EPLEY, Nicholas. The mind in the machine: Anthropomorphism increases trust in an autonomous vehicle. Journal of Experimental Social Psychology. 2014, 52, 113–117.
Důvěra v AI, automatizace, halucinace a falešná jistota
AMERSHI, Saleema; WELD, Dan; VORVOREANU, Mihaela; FOURNEY, Adam; NUSHI, Besmira; COLLIŠSON, Penny; SUH, Jina; IQBAL, Shamsi; BENNETT, Paul N.; INKPEN, Kori; TEEVAN, Jaime; KIKIN-GIL, Ruth; HORVITZ, Eric. Guidelines for human-AI interaction. In: Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems. New York: ACM, 2019, s. 1–13.
BENDER, Emily M.; GEBRU, Timnit; MCMILLAN-MAJOR, Angelina; SHMITCHELL, Shmargaret. On the dangers of stochastic parrots: Can language models be too big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. New York: ACM, 2021, s. 610–623.
DIETVORST, Berkeley J.; SIMMONS, Joseph P.; MASSEY, Cade. Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General. 2015, 144(1), 114–126.
HANCOCK, Peter A.; BILLINGS, Deborah R.; SCHAEFER, Kristin E.; CHEN, Jessie Y. C.; DE VISSER, Ewart J.; PARASURAMAN, Raja. A meta-analysis of factors affecting trust in human-robot interaction. Human Factors. 2011, 53(5), 517–527.
HOFF, Kevin A.; BASHIR, Masooda. Trust in automation: Integrating empirical evidence on factors that influence trust. Human Factors. 2015, 57(3), 407–434.
JI, Ziwei; LEE, Nayeon; FRIESKE, Rita; YU, Tiezheng; SU, Dan; XU, Yan; ISHII, Etsuko; BANG, Ye Jin; CHEN, Andrea; MADOTTO, Andrea; FUNG, Pascale. Survey of hallucination in natural language generation. ACM Computing Surveys. 2023, 55(12), 1–38.
LEE, John D.; SEE, Katrina A. Trust in automation: Designing for appropriate reliance. Human Factors. 2004, 46(1), 50–80.
LOGG, Jennifer M.; MINSON, Julia A.; MOORE, Don A. Algorithm appreciation: People prefer algorithmic to human judgment. Organizational Behavior and Human Decision Processes. 2019, 151, 90–103.
MAYNEZ, Joshua; NARAYAN, Shashi; BOHNET, Bernd; MCDONALD, Ryan. On faithfulness and factuality in abstractive summarization. In: Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. Stroudsburg: ACL, 2020, s. 1906–1919.
PARASURAMAN, Raja; RILEY, Victor. Humans and automation: Use, misuse, disuse, abuse. Human Factors. 1997, 39(2), 230–253.
Chatboti, AI společníci a náhražkové vztahy
BRANDTZAEG, Petter Bae; FØLSTAD, Asbjørn. Why people use chatbots. In: Internet Science. Cham: Springer, 2017, s. 377–392.
CROES, Emmelyn A. J.; ANTHEUNIS, Marjolijn L. Can we be friends with Mitsuku? A longitudinal study on the process of relationship formation between humans and a social chatbot. Journal of Social and Personal Relationships. 2021, 38(1), 279–300.
GILES, David C. Parasocial interaction: A review of the literature and a model for future research. Media Psychology. 2002, 4(3), 279–305.
HO, Annabell; HANCOCK, Jeffrey; MINER, Adam S. Psychological, relational, and emotional effects of self-disclosure after conversations with a chatbot. Journal of Communication. 2018, 68(4), 712–733.
HORTON, Donald; WOHL, Richard R. Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry. 1956, 19(3), 215–229.
PIZZI, Gabriele; SCARPI, Daniele; PANTANO, Eleonora. Artificial intelligence and the new forms of interaction: Who has the control when interacting with a chatbot? Journal of Business Research. 2021, 129, 878–890.
SKJUVE, Marita; FØLSTAD, Asbjørn; FOSTERVOLD, Knut Inge; BRANDTZAEG, Petter Bae. My chatbot companion: A study of human-chatbot relationships. International Journal of Human-Computer Studies. 2021, 149, 102601.
TA, Vivian; GRIFFITH, Caroline; BOATFIELD, Caitlin; WANG, Xinyu; CICHERELLO, Graham; LOGAN, Haley; MIRANDA, Athena; AZAR, Kathryn M. J. User experiences of social support from companion chatbots in everyday contexts: Thematic analysis. Journal of Medical Internet Research. 2020, 22(3), e16235.
TURKLE, Sherry. Life on the Screen: Identity in the Age of the Internet. New York: Simon & Schuster, 1995.
TURKLE, Sherry. Reclaiming Conversation: The Power of Talk in a Digital Age. New York: Penguin Press, 2015.
Etika AI, odpovědnost, bias a společenské dopady
BAROCAS, Solon; HARDT, Moritz; NARAYANAN, Arvind. Fairness and Machine Learning: Limitations and Opportunities. 2019.
DIGNUM, Virginia. Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way. Cham: Springer, 2019.
EUROPEAN COMMISSION, HIGH-LEVEL EXPERT GROUP ON ARTIFICIAL INTELLIGENCE. Ethics Guidelines for Trustworthy AI. Brussels: European Commission, 2019.
FLORIDI, Luciano; COWLS, Josh. A unified framework of five principles for AI in society. Harvard Data Science Review. 2019, 1(1).
JOBIN, Anna; IENCA, Marcello; VAYENA, Effy. The global landscape of AI ethics guidelines. Nature Machine Intelligence. 2019, 1, 389–399.
MITTELSTADT, Brent D.; ALLO, Patrick; TADDEO, Mariarosaria; WACHTER, Sandra; FLORIDI, Luciano. The ethics of algorithms: Mapping the debate. Big Data & Society. 2016, 3(2), 1–21.
NOBLE, Safiya Umoja. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: New York University Press, 2018.
O’NEIL, Cathy. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown, 2016.
UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021.
ZUBOFF, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York: PublicAffairs, 2019.
VR, AR, BCI, neurodata, posthumanismus a transhumanismus
AZUMA, Ronald T. A survey of augmented reality. Presence: Teleoperators and Virtual Environments. 1997, 6(4), 355–385.
BAILENSON, Jeremy. Experience on Demand: What Virtual Reality Is, How It Works, and What It Can Do. New York: W. W. Norton, 2018.
BOSTROM, Nick. A history of transhumanist thought. Journal of Evolution and Technology. 2005, 14(1), 1–25.
BRAIDOTTI, Rosi. The Posthuman. Cambridge: Polity Press, 2013.
CLARK, Andy. Natural-Born Cyborgs: Minds, Technologies, and the Future of Human Intelligence. Oxford: Oxford University Press, 2003.
CLARK, Andy; CHALMERS, David. The extended mind. Analysis. 1998, 58(1), 7–19.
FARAHANY, Nita A. The Battle for Your Brain: Defending the Right to Think Freely in the Age of Neurotechnology. New York: St. Martin’s Press, 2023.
HAYLES, N. Katherine. How We Became Posthuman: Virtual Bodies in Cybernetics, Literature, and Informatics. Chicago: University of Chicago Press, 1999.
IENCA, Marcello; ANDORNO, Roberto. Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy. 2017, 13, 5.
LEBEDEV, Mikhail A.; NICOLELIS, Miguel A. L. Brain-machine interfaces: From basic science to neuroprostheses and neurorehabilitation. Physiological Reviews. 2017, 97(2), 767–837.
MILGRAM, Paul; KISHINO, Fumio. A taxonomy of mixed reality visual displays. IEICE Transactions on Information and Systems. 1994, E77-D(12), 1321–1329.
SLATER, Mel; SANCHEZ-VIVES, Maria V. Enhancing our lives with immersive virtual reality. Frontiers in Robotics and AI. 2016, 3, 74.
WOLPAW, Jonathan R.; WOLPAW, Elizabeth Winter, eds. Brain-Computer Interfaces: Principles and Practice. Oxford: Oxford University Press, 2012.
YUSTE, Rafael; GOERING, Sara; AGÜERA Y ARCAS, Blaise; BI, Guoqiang; CARMENA, Jose M.; CARTER, Adrian; FINS, Joseph J.; FRIESEN, Phoebe; GALLANT, Jack; HUGGINS, Jane E.; ILLes, Judy; KELLMEYER, Philipp; KLEIN, Eran; MARBLestone, Adam; MITCHELL, Christine; PARDO, Michael S.; PHAM, Michelle; RUBEL, Alan; SADATO, Noriaki; SULLIVAN, Laura Specker; TEICHER, Martin; WASSERMAN, David; WEXLER, Anna; WHITAKER, Karen; WOLPAW, Jonathan. Four ethical priorities for neurotechnologies and AI. Nature. 2017, 551, 159–163.
Algoritmický management, práce a každodenní rozhodování
AJUNWA, Ifeoma; CRAWFORD, Kate; SCHULTZ, Jason. Limitless worker surveillance. California Law Review. 2017, 105(3), 735–776.
CHRISTIN, Angèle. Algorithms in practice: Comparing web journalism and criminal justice. Big Data & Society. 2017, 4(2), 1–14.
KELLOGG, Katherine C.; VALENTINE, Melissa A.; CHRISTIN, Angèle. Algorithms at work: The new contested terrain of control. Academy of Management Annals. 2020, 14(1), 366–410.
LEE, Min Kyung; KUSBIT, Daniel; METSKY, Evan; DABBISH, Laura. Working with machines: The impact of algorithmic and data-driven management on human workers. In: Proceedings of the 33rd Annual ACM Conference on Human Factors in Computing Systems. New York: ACM, 2015, s. 1603–1612.
ROSENBLAT, Alex. Uberland: How Algorithms Are Rewriting the Rules of Work. Oakland: University of California Press, 2018.
VALLAS, Steven; SCHOR, Juliet B. What do platforms do? Understanding the gig economy. Annual Review of Sociology. 2020, 46, 273–294.
WOOD, Alex J.; GRAHAM, Mark; LEHDONVIRTA, Vili; HJORTH, Isis. Good gig, bad gig: Autonomy and algorithmic control in the global gig economy. Work, Employment and Society. 2019, 33(1), 56–75.