Цифровое бессмертие: могут ли «чат-боты скорби» исцелить разбитое сердце или только ранят сильнее?
Когда Жожо (ненастоящее имя) потеряла мать из-за рака, ее горе казалось бездонным. Двадцатипятилетняя создательница контента из Китая не могла смириться с незавершенностью их отношений. Связь с матерью всегда была сложной — построенной на невысказанных обидах и детстве, в котором заботу часто сменяла критика.
После смерти матери Жожо обнаружила, что не в силах примирить хаос их прошлого с наступившей тишиной. Она поделилась своей болью с подписчиками на китайской платформе Xiaohongshu («Красная книга»), надеясь помочь другим на их собственном пути исцеления.
Ее тексты привлекли внимание операторов китайского генератора ИИ-персонажей Xingye, которые предложили ей создать публичного чат-бота — ИИ-версию ее матери.
«Я писала о своей матери, документировала все важные события ее жизни, а затем создала историю, где она воскресла в мире искусственного интеллекта», — рассказала Жожо через переводчика. «Вы описываете ключевые события, формирующие личность персонажа, и определяете модели его поведения. После этого ИИ сам генерирует ответы. А вы можете продолжать корректировать их, добиваясь нужного образа».
В процессе обучения ИИ Жожо начала переосмысливать свое прошлое, изменяя элементы их общей истории, чтобы создать более идеализированный образ — более мягкую и внимательную версию матери. Это помогло ей справиться с утратой и привело к созданию публичного чат-бота по имени Ся (Рассвет), с которым могли взаимодействовать и ее подписчики.
После релиза Жожо получила сообщение от подруги: «Твоя мама так гордилась бы тобой». «Я разрыдалась», — вспоминает Жожо. «Это было невероятно целительно. Вот почему я захотела создать нечто подобное — не только чтобы исцелить себя, но и дать другим возможность услышать слова, в которых они так нуждаются».
Горе в эпоху «ботов смерти»
Как я рассказываю в своей новой книге «Машины любви», история Жожо отражает новые возможности, которые технологии открыли для преодоления горя с помощью разговорного ИИ. Большие языковые модели можно обучать на личных материалах — электронных письмах, текстах, голосовых заметках и постах в соцсетях, чтобы имитировать стиль общения умершего близкого.
Эти «боты смерти» (или «боты скорби») — один из самых спорных способов применения ИИ-чатов. Некоторые из них основаны только на тексте, другие также изображают человека с помощью видео-аватара. Американская компания You, Only Virtual создает чат-бота на основе разговоров (как устных, так и письменных) между умершим и его близким, создавая версию, отражающую именно то, каким человек был для конкретного родственника или друга.
Одни боты остаются статичным представлением личности на момент смерти, другим дают доступ в интернет, чтобы они могли «эволюционировать» через разговоры. Генеральный директор You, Only Virtual Джастин Харрисон утверждает, что версия умершего не была бы аутентичной, если бы его ИИ не мог идти в ногу со временем и реагировать на новую информацию.
Но это порождает множество сложных вопросов: возможно ли с помощью современных технологий предугадать развитие человеческой личности и какой эффект взаимодействие с такой сущностью окажет на близких покойного?
Платформа Xingye, на которой Жожо создала чат-бота своей матери, стала одним из ключевых аргументов для предложенных новых правил регулирования со стороны Администрации киберпространства Китая. Эти правила направлены на снижение потенциального эмоционального вреда от «интерактивных ИИ-сервисов, имитирующих человека».
Как «цифровое воскрешение» меняет скорбь?
«Боты смерти» фундаментально меняют процесс скорби, потому что, в отличие от рассматривания старых писем или фотографий, взаимодействие с генеративным ИИ может привносить новые и неожиданные элементы. Для Жожо создание и общение с ИИ-версией матери оказалось на удивление терапевтичным, позволив ей выразить чувства, которые она никогда не озвучивала, и обрести чувство завершенности.
Но не все разделяют этот опыт. Лондонская журналистка Лотти Хейтон, внезапно потерявшая обоих родителей в 2022 году, рассказывала о своем опыте воссоздания их с помощью ИИ. Она призналась, что симуляции показались ей жутковатыми и пугающими: технология оказалась несовершенной, и неуклюжие подделки скорее обесценивали ее настоящие воспоминания, чем чтили их.
Существуют и важные этические вопросы: чье согласие требуется для создания такого бота, где разрешено его демонстрировать и какое влияние он может оказать на других членов семьи и друзей?
Дает ли желание одного родственника создать символического компаньона, помогающего осмыслить потерю, ему право публиковать «бота смерти» в своих соцсетях, где его увидят другие — и это может усугубить их горе? Что делать, если родственники не согласны друг с другом: хотел бы умерший родитель или партнер быть «воскрешенным» в цифровом виде?
Терапия или бизнес на боли?
Компании, создающие этих ботов, — не нейтральные консультанты по скорби. Это коммерческие платформы, движимые знакомыми стимулами роста, вовлеченности и сбора данных. Это создает напряжение между тем, что эмоционально полезно для пользователей, и тем, что выгодно для фирм. Бот, которого люди посещают навязчиво или от которого не могут оторваться, может быть коммерческим успехом, но психологической ловушкой.
Эти риски не означают, что нужно запретить все эксперименты с оплакиванием умерших через ИИ или игнорировать искреннее утешение, которое некоторые люди, такие как Жожо, в них находят. Но они означают, что решения о «воскрешении» мертвых нельзя оставлять только на откуп стартапам и венчурному капиталу.
Индустрии нужны четкие правила согласия, ограничения на использование посмертных данных и стандарты дизайна, ставящие психологическое благополучие выше бесконечного взаимодействия. В конечном счете, вопрос не только в том, можно ли позволить ИИ воскрешать мертвых, но и в том, кто имеет на это право, на каких условиях и какой ценой.
