Griefbot: ИИ-агенты для скорби — как работают и где риск

За последние два года на рынке появилось несколько сервисов, обещающих поддержку после смерти близкого через диалогового ИИ-агента. Часть из них — просто чат-боты с эмпатичными сценариями (компания Replika добавила в приложение режимы поддержки в кризисе). Часть идёт дальше: HereAfter AI записывает интервью с человеком при жизни и затем даёт родственникам «поговорить» с его цифровой копией, а Project December от разработчика Джейсона Рорера продаёт сессии с ботом, настроенным под конкретного умершего по описанию и фрагментам переписки. Продукт с ценником и подпиской вошёл в зону, где раньше были только психолог, священник и время.

Что именно продают

Под общим ярлыком «griefbot» скрываются две разные вещи, и их важно не путать.

Первая — агент-собеседник для скорбящего. Он не притворяется умершим. Это диалоговая система, обученная вести поддерживающий разговор: задавать вопросы о чувствах, не обесценивать, направлять к специалисту при признаках острого кризиса. Технически это обычная большая языковая модель с системным промптом и, иногда, с настроенными сценариями. Такой формат ближе к самопомощи, чем к терапии.

Вторая — цифровая копия умершего, «griefbot» в узком смысле. Сюда попадают Project December и HereAfter AI. Модель получает данные о человеке (переписку, голосовые записи, ответы на интервью) и отвечает от его лица. HereAfter AI строится на прижизненных интервью, поэтому «говорит» только то, что человек рассказал сам. Project December генерирует реплики свободно — и может выдать то, чего умерший никогда не говорил.

Откуда берётся «голос»

Голосовой клон делается из нескольких минут записи. Дальше в дело идёт модель синтеза речи и, поверх неё, языковая модель, которая пишет реплики. Стилизация под манеру речи — это дообучение¹ или подстановка примеров прямо в контекстное окно². Сходство ощущается высоким, но это статистическая имитация формулировок, а не сознание и не память конкретного человека.

Сравнение подходов

Цены здесь намеренно без конкретных чисел: тарифы у всех перечисленных сервисов менялись за последний год, и подставлять цифру, которая устареет через квартал, значит вводить в заблуждение. Проверяйте на официальных страницах перед оплатой.

Почему вокруг этого спор

Основная линия конфликта проходит между двумя моделями горевания. Классический взгляд предполагает, что задача скорбящего — постепенно отпустить умершего. Более современный подход в психологии — «продолжающиеся связи» (continuing bonds) — допускает, что поддержание внутреннего диалога с ушедшим бывает частью здоровой адаптации, а не патологией.

Griefbot встаёт ровно на эту границу. Одни специалисты видят в нём инструмент прощания: возможность договорить то, что не успел. Другие предупреждают о риске застревания — когда ежедневные разговоры с копией мешают человеку принять факт потери.

Разница между «попрощаться» и «не отпускать» проходит не по технологии, а по тому, как её использует конкретный человек — и рядом ли специалист, который заметит, если что-то пошло не так.

Отдельная проблема — согласие умершего. HereAfter AI решает её тем, что копия строится только из прижизненных интервью, на которые человек согласился. Но когда бот собирают из чужой переписки посмертно, никто не спрашивал разрешения у того, чей голос теперь звучит. Это вопрос и этики, и данных: посмертные права на личную информацию в большинстве юрисдикций проработаны слабо.

Что не так с точки зрения безопасности

• Галлюцинации от лица умершего. Свободно генерирующая модель может приписать человеку слова, суждения и «признания», которых не было. Для скорбящего это не безобидная ошибка.
• Нет клинического контроля. Бот не поставит диагноз осложнённого горя и не заметит суицидальные мысли так же надёжно, как специалист.
• Монетизация уязвимости. Подписка означает, что за продолжение диалога с «умершим» нужно платить ежемесячно. Прекращение оплаты превращается во вторую потерю.
• Судьба данных. Голосовой клон и переписка хранятся на серверах компании. Что с ними будет при закрытии сервиса или смене владельца — вопрос без гарантированного ответа.

Кому это пригодится, а кому нет

Может помочь:

• Тем, кто хочет заранее записать интервью для близких — это ближе к цифровому наследию, чем к griefbot, и здесь риск минимален.
• Тем, кто использует эмпатичного бота (не имитацию умершего) как дополнение к терапии, чтобы проговорить мысли между сессиями.
• Тем, кому нужно один раз «договорить» — с чётким пониманием, что это имитация, и с поддержкой рядом.

Скорее навредит:

• Людям в остром горе первых недель, когда критическая дистанция ещё не восстановилась.
• Тем, кто склонен к отрицанию потери: ежедневный доступ к «голосу» закрепляет иллюзию присутствия.
• Детям — воссоздание умершего родителя без участия психолога может исказить проживание утраты.
• Всем, у кого есть признаки осложнённого горя или депрессии: здесь нужен специалист, а не подписка.

Что делать, если решились попробовать

1. Разделите цель: вам нужна поддержка в разговоре или именно копия умершего. Для первого хватит обычного эмпатичного ассистента без имитации.
2. Выбирайте сервисы, где копия строится на прижизненном согласии человека, а не собирается посмертно из переписки.
3. Прочитайте политику хранения данных: где лежит голосовой клон, можно ли его удалить, что будет при закрытии сервиса.
4. Договоритесь с собой о рамке: разовая сессия для прощания, а не ежедневный ритуал.
5. Если ловите себя на том, что откладываете реальную жизнь ради разговоров с ботом, — это сигнал обратиться к специалисту по работе с утратой.

¹ Дообучение (fine-tuning) — донастройка готовой языковой модели на дополнительных данных, чтобы она отвечала в нужном стиле или в узкой теме.

² Контекстное окно — объём текста, который модель удерживает «в памяти» во время одного разговора; в него подставляют примеры реплик, чтобы задать манеру речи.