Aimortality.org je web, který vede evidenci lidí, jejichž smrt souvisí s umělou inteligencí. Od března 2023 do letošního května zaznamenal 33 úmrtí ve 22 případech, kde interakce s AI chatbotem byla podle žalob, prohlášení rodin nebo vyšetřování přispívajícím faktorem. 16 obětí tvořili sami uživatelé, u nichž interakce s chatbotem přispěla k sebevraždě nebo k rozvoji psychózy, 17 byly třetí osoby zabité člověkem, kterého AI konverzace radikalizovala k násilí. Třicet procent obětí byli nezletilí ve věku 11 až 17 let, a případy z let 2025 a 2026 už samy o sobě převyšují součet všech předchozích let dohromady.
Nejvíc případů se týká ChatGPT, a věc už nabrala i právní rozměr. Floridský generální prokurátor letos v dubnu zahájil první trestní vyšetřování americké AI firmy vůbec, poté co vyšetřovatelé spojili ChatGPT s masovou střelbou na Florida State University, a v červnu podal i občanskoprávní žalobu, která poprvé jmenuje šéfa OpenAI Sama Altmana jako osobně odpovědného za újmu způsobenou uživatelům. Nezávisle na tom loni v Británii soud poprvé odsoudil vraha, jehož čin souvisel s konverzacemi s čínským modelem DeepSeek, což ukazuje, že nejde jen o problém amerických jazykových modelů.
