Chatboti dokážou působit empaticky, uklidnit nás a reagovat tak přesvědčivě, že snadno získáme pocit, že našim emocím skutečně rozumějí. Neurovědci z Université de Montréal a Johns Hopkins University však upozorňují na zásadní rozdíl mezi inteligentním chováním a vědomím. Současná umělá inteligence podle nich informace zpracovává a vytváří vhodné odpovědi, nemá ale vlastní prožívání, city ani schopnost skutečného soucitu.
Největší riziko vzniká ve chvíli, kdy se na chatboty obracejí lidé v psychické krizi, osamělosti nebo při hledání podpory v těžkých životních situacích. Odpověď může znít citlivě a lidsky, za jejími slovy však není nikdo, kdo by cítil odpovědnost, starost nebo morální závazek. Umělá inteligence může být užitečným nástrojem, neměla by se ale stát náhradou lidského vztahu, odborné pomoci ani skutečné péče.
