Чат-боты умерших: как работают «griefbots» и что с ними не так

Идея загрузить переписку, голосовые сообщения и фотографии умершего человека, чтобы получить чат-бота, отвечающего «как он», перестала быть научной фантастикой. Компании HereAfter AI и Seance AI продают доступ к цифровым «двойникам» уже несколько лет, Replika позволяет создавать персонажей на основе описаний, а в 2024 году о работе с «grief tech» публично говорили и в StoryFile. Технически за всем этим стоит одна и та же связка: большая языковая модель плюс личные данные покойного, подставленные в контекст или использованные для дообучения. Результат называют griefbot — бот скорби.

Что именно происходит под капотом

Ни один из этих сервисов не «оживляет» человека и не обучает модель с нуля. Базой служит готовая LLM — часто из линеек GPT или открытых моделей. Дальше есть два подхода, и они дают разный результат.

Первый — RAG*: переписку, письма и расшифровки разговоров загружают в базу, из которой модель подтягивает релевантные куски прямо во время ответа. Личность при этом не «встроена» в веса модели — она живёт в подгружаемых фрагментах и в системном промпте вида «отвечай в манере этого человека». Дёшево, быстро, но узнаваемость держится ровно настолько, насколько богат загруженный архив.

Второй — дообучение**: на переписке умершего корректируют веса модели, чтобы она перенимала манеру речи, любимые словечки, длину фраз. Дороже, требует заметного объёма текста и всё равно не гарантирует, что бот не начнёт выдумывать факты, которых человек никогда не говорил.

Голос добавляют отдельно — синтезом речи по образцу (voice cloning), для которого хватает нескольких минут чистой записи. Видео-аватар — ещё один слой, самый дорогой и самый спорный.

Кто и за сколько это предлагает

Рынок молодой, продукты сильно отличаются по глубине. Цены ниже — ориентировочные и меняются часто, проверяйте на сайтах сервисов перед покупкой.

Общий знаменатель: сервисы, которые опираются на прижизненную запись (HereAfter, StoryFile), честнее — они не притворяются, что знают больше, чем человек рассказал. Те, что генерируют образ из обрывков переписки, ближе к правдоподобной импровизации.

Griefbot не помнит умершего. Он статистически предсказывает, что человек с такой манерой речи мог бы ответить — и делает это одинаково уверенно и когда угадывает, и когда выдумывает.

Где начинаются проблемы

Согласие того, кого воссоздают

Человек, чья переписка легла в основу бота, чаще всего не давал на это согласия — его уже нет. Прижизненные сервисы вроде StoryFile закрывают вопрос тем, что запись делает сам человек. А вот дообучение на архиве мессенджера — это решение родственников за умершего, и оно спорно и этически, и юридически: переписка обычно двусторонняя, и во втором собеседнике тоже есть чьи-то личные данные.

Галлюцинации в самой болезненной точке

LLM выдумывает факты — это её свойство, а не баг конкретного продукта. Когда выдуманный факт касается забавного ответа ассистента, цена ошибки нулевая. Когда бот «от лица» умершего отца выдаёт мнение, которого тот никогда не высказывал, это может исказить память о человеке у тех, кто с ним говорит.

Эффект на горевание

Психологи расходятся в оценках, устоявшегося консенсуса пока нет, и однозначных данных о вреде или пользе на длинной дистанции тоже. Одни специалисты допускают, что ограниченное использование помогает попрощаться; другие опасаются, что постоянный доступ к «собеседнику» мешает завершить утрату. Ссылаться на конкретные проценты и исследования здесь было бы натяжкой — крупной доказательной базы по griefbot'ам на сегодня нет.

Кому это пригодится, а кому нет

Может подойти, если:

• человек сам, при жизни, записал воспоминания и хотел оставить их близким — тогда бот работает как интерактивный семейный архив, а не как имитация личности;
• цель — сохранить факты и истории (как дедушка познакомился с бабушкой, что он рассказывал о войне), а не поддерживать иллюзию продолжающегося диалога;
• вы понимаете и принимаете, что перед вами модель, а не человек.

Скорее навредит, если:

• вы на острой стадии горя и ищете замену общению с ушедшим — риск застрять в диалоге с алгоритмом выше пользы;
• бот строят на обрывочной переписке без согласия умершего — правдоподобие тут работает против вас, потому что придуманные фразы неотличимы от настоящих;
• доступ к боту получают дети, которым трудно провести границу между записью и живым родителем.

Что проверить перед тем, как платить

1. На чём обучен образ — на прижизненной записи самого человека или на выгруженной переписке. Первое честнее.
2. Что происходит с загруженными данными: хранятся ли они, используются ли для обучения общих моделей, можно ли всё удалить.
3. Есть ли подписка и что будет с ботом, если перестать платить — доступ к памяти близкого не должен зависеть от ежемесячного платежа без предупреждения.
4. Помечает ли сервис ответы как сгенерированные, или маскирует их под «настоящие» слова умершего.

* RAG (retrieval-augmented generation) — подход, при котором модель во время ответа подтягивает нужные фрагменты из внешней базы данных, а не хранит их в своих весах. Позволяет опираться на конкретный архив без переобучения.

** Дообучение (fine-tuning) — дополнительная тренировка готовой модели на узком наборе данных, чтобы она переняла стиль или знания этого набора. Меняет веса модели, в отличие от RAG.