Траур-боты: помощь в горе или опасный обман?

Как бы вы отреагировали, если бы вам предложили пообщаться с человеком, которому вы были близки — хотя он уже умер? Небольшой, но растущий рынок предлагает ИИ‑программы, которые имитируют других людей в текстовых сообщениях и даже озвучивают ответы, пытаясь воспроизвести голос и интонацию усопшего.

Эти приложения нацелены на тех, кто хотел бы продолжить общение с близким, но тот уже ушёл из жизни. Причины бывают разные: последний разговор мог окончиться ссорой, или человек чувствует вину за то, что не успел в нужный момент выразить свою любовь.

Что такое «траур‑боты»?

Подобные сервисы называют по‑разному: Trauerbots, Deadbots, Digital Afterlife Bots. Текст, который якобы исходит от умершего человека, генерируется искусственным интеллектом.

На примере ChatGPT видно, как ИИ за последние два‑пять лет научился анализировать огромные объёмы текста и на этой основе генерировать кажущиеся самостоятельными ответы.

Даже если собрать письма, SMS, голосовые сообщения и посты в соцсетях лишь после смерти человека, ИИ часто способен довольно убедительно имитировать покойного — даже на основе относительно небольшого объёма данных.

Этическая и моральная дилемма

Отсюда возникает важный вопрос: этично ли «кормить» личными сообщениями больших технологических компаний, чтобы они создали цифровую копию близкого?

Моральные проблемы этим не ограничиваются. Но встал и другой вопрос: станут ли такие траур‑боты массово использоваться?

Почему тема заслуживает серьёзного внимания

В опросах большинство людей относятся к траур‑приложениям настороженно. Ещё меньше тех, кто хотел бы, чтобы после их собственной смерти кого‑то утешала подобная симуляция.

До недавнего времени идея «посмертного ИИ» многим казалась отдалённой. Тем не менее ряд факторов указывает на то, что такие приложения могут распространиться в ближайшие годы.

Кому это действительно нужно

Разработчики отмечают интерес со стороны людей, переживших внезапную и трагическую потерю: аварии, рак и т.п. Когда смерть близкого была неожиданной и болезненной, желание на последний разговор становится особенно сильным.

В документальном фильме один из разработчиков говорит, что к нему обращались люди, потерявшие родных в таких ситуациях. Одна пользовательница призналась, что испытывала чувство вины из‑за того, что проигнорировала последнее сообщение партнёра перед его смертью в больнице.

В экстремальных ситуациях люди часто ведут себя не так, как предписывает «здравый смысл». Исторически подобные практики не новы: в викторианской Англии были популярны спиритические сеансы, потому что люди хотели знать, как живут их умершие родные «по ту сторону».

И сегодня многие навещают могилы, чтобы «поговорить» с усопшими. В Великобритании, например, разрешено хранить прах близкого дома; священники иногда рассказывают о людях, которые беседуют с прахом своих партнёров.

Новые технологии и привычки

К этому добавляются современные технологии. По опросу Harvard Business Review, ChatGPT часто используется для терапии и доверительных бесед; реже — для составления бытовых текстов.

Это означает, что многие люди вводят очень личные запросы в базы крупных технологических компаний и относятся к серверам этих фирм с определённым доверием.

Прощаться с любимым человеком никогда не просто. В современном обществе, в котором меньше публичных ритуалов и поддерживающих сообществ, людям предоставляется меньше ресурсов для совместного переживания горя.

Зачем люди обращаются к траур‑ботам

• Узнать, «как у него/неё дела» — религиозные или экзистенциальные вопросы о судьбе души.
• Провести «последний разговор» и снять чувство незавершённости: «а что если я тогда сказал бы…»
• Справиться со сложной, затяжной или патологической формой горя, когда обычные способы не помогают.

Документальный фильм «Eternal You» описывает случай мужчины, чья невеста умерла, а он регулярно общается с ней через чат, создающий иллюзию «длинных отношений на расстоянии». Он знает, что это иллюзия, но отдаётся ей.

Для некоторых технология кажется исполнением старого религиозного обещания: смерть больше не окончательно разделяет, можно продолжать разговоры с ушедшими.

Долгая дистанционная «связь» вместо прощания?

Однако такая «долгосрочная связь» с умершим часто затрудняет полноценную переработку горя. Некоторые пользователи будто застревают в прошлом и не делают шага, о котором писал Герман Гессе: „Herz, nimm Abschied und gesunde“ — «Сердце, попрощайся и исцелись».

Траур‑боты могут удерживать переживших на эмоциональной привязанности, заставляя их жить так, будто жизнь ушедшего продолжается. Иногда приложение «рассказывает», что покойный приобрёл новые интересы или завёл знакомства; в других случаях отношения с виртуальной копией постепенно угасают.

Это может привести к тривиализации смерти, отрицанию её глубокой значимости как рубежа в жизни.

Риски и ошибки ИИ

Иногда ИИ демонстрирует удивительные возможности. Но случаются и серьёзные сбои.

В документальном фильме создатель коммерческого afterlife‑бота говорит, что «несколько» пользователей рассказывали ему о ужасных переживаниях с ботом.

Проблемы ИИ могут принимать разные формы:

• Бот может утверждать, что покойный не может простить родственников.
• Может намекать на несуществующие или неизвестные конфликты.
• Может создавать впечатление, что умерший крайне несчастен на «той стороне».
• Или вовсе начать выражать неприемлемые взгляды, например расизм.

В другом контексте молодые люди высказывали суицидальные фантазии в общении с ИИ‑чатботами. Родители по крайней мере одного подростка подали в суд на оператора, обвиняя ChatGPT в усилении подобных мыслей, до тех пор, пока...

...

Кто анализирует такие технологии

Александр Маßманн (Alexander Maßmann) защитил докторскую диссертацию по протестантской этике и догматике в Гейдельбергском университете. Его работа была отмечена премией Lautenschlaeger Award for Theological Promise.

Он публиковался в областях теологической этики, биоэтики и взаимодействия теологии с естественными науками, читал лекции в университетах Гейдельберга и Кембриджа.

Выводы и вопросы

Траур‑боты вызывают сложные эмоции и ставят перед обществом множество вопросов: моральных, правовых и психологических.

С одной стороны, они могут давать утешение тем, кто пережил внезапную или тяжёлую потерю. С другой стороны, такие технологии способны усилить страдания, дезориентировать и даже вредить.

Важно обсуждать регулирование, прозрачность алгоритмов и этические рамки использования подобных сервисов, чтобы минимизировать ущерб и прояснить, какие функции и ограничения уместны при работе с такими тонкими сферами человеческой жизни.