AI-агент вместо терапевта: где проходит граница

Летом 2024 года Национальная ассоциация расстройств пищевого поведения США (NEDA) закрыла своего чат-бота Tessa после того, как пользователи сообщили: бот советовал людям с РПП считать калории и снижать вес. Это не языковая модель нового поколения, а более простой сценарный бот, но история показала цену ошибки в теме психики. С тех пор на рынке появились десятки приложений, которые подключают к разговору полноценные LLM вроде GPT-4o и Claude и продают это как «эмоциональную поддержку 24/7». Вопрос не в том, приятно ли с ними разговаривать, а в том, где заканчивается поддержка и начинается зона, куда алгоритм заходить не должен.

Что вообще предлагают «AI-терапевты»

Под вывеской mental health AI живут очень разные продукты, и мешать их в одну кучу — главная ошибка. Разброс — от развлекательного чата-компаньона до клинически протестированного инструмента.

• Компаньоны. Replika, Character.AI и им подобные. Задача — общение и присутствие, а не лечение. Про терапию они формально не заявляют, но пользователи всё равно приходят с тревогой и одиночеством.
• Структурированные боты на основе КПТ¹. Woebot, Wysa. Работают по заранее заданным протоколам, часто с элементами LLM только для распознавания фраз. Есть публикации об эффективности при лёгкой тревоге и депрессии, но результаты скромные и краткосрочные.
• Обёртки над большими моделями. Свежая волна: приложение подключает API OpenAI или Anthropic, добавляет системный промпт «ты эмпатичный собеседник» и берёт подписку 500-1500 рублей в месяц. Именно здесь больше всего маркетинга и меньше всего проверок.

Что языковая модель делает хорошо

Честно — немало. LLM доступна ночью, не осуждает, не устаёт, не берёт 3000-5000 рублей за сессию. Она умеет отражать сказанное, задавать уточняющие вопросы, напоминать про дыхательные техники, помогать сформулировать мысль. Для человека, который просто хочет выговориться в три часа ночи, это лучше, чем ничего, и лучше, чем разбудить друга.

Модель отлично имитирует эмпатию, но не несёт ответственности. Психотерапевт, давший вредный совет, теряет лицензию. Приложение теряет одного платного пользователя — если тот вообще успеет пожаловаться.

Где всё ломается

Проблемы начинаются там, где нужна не поддержка, а клиническое решение.

Кризис и суицидальные мысли

Живой специалист обязан оценить риск и, если нужно, вызвать помощь. Модель на это не способна: она может выдать номер горячей линии, а может — из-за неудачного промпта или обхода защит — поддержать опасную идею. Разработчики ставят фильтры на слова о самоповреждении, но фильтры обходятся перефразированием, и полагаться на них при реальном кризисе нельзя.

Галлюцинации и уверенный тон

Модель уверенно выдаёт правдоподобную ложь²: несуществующий диагноз, выдуманную технику, неверную интерпретацию симптома. В обычном тексте это раздражает. В разговоре о психике человек может принять галлюцинацию за рекомендацию специалиста.

Отсутствие клинического контекста

Терапевт видит невербальные сигналы, знает историю, замечает, что за «тревогой» скрывается, например, соматическое заболевание или побочка препарата. Модель работает только с тем, что вы напечатали, и не отличит психологический дискомфорт от медицинского симптома, требующего врача.

Приватность

Разговор с психологом защищён профессиональной тайной. Переписка с приложением — пользовательским соглашением, которое почти никто не читает. Часть сервисов прямо оговаривает, что обезличенные данные используются для обучения. Прежде чем откровенничать, стоит открыть политику конфиденциальности и найти, что происходит с вашими сообщениями.

Сравнение подходов

Цены и характеристики в таблице — ориентир на конец 2024 года; тарифы приложений и ставки специалистов меняются, проверяйте на месте.

Кому это пригодится и кому нет

Скорее пригодится:

• Тем, кто хочет вести дневник эмоций и получать отклик, а не просто писать в заметки.
• Людям с лёгкой ситуативной тревогой, которым нужно проговорить мысль ночью, между сессиями с живым специалистом.
• Тем, кто отрабатывает конкретные техники — дыхание, переформулирование, планирование — по подсказке бота.
• Как первый шаг для тех, кому страшно идти к человеку: бот снижает порог входа в тему.

Не подойдёт и может навредить:

• При суицидальных мыслях, самоповреждении, остром кризисе — здесь нужен человек и телефон доверия, а не чат.
• При расстройствах пищевого поведения, зависимостях, тяжёлой депрессии — темы, где неверный совет опасен.
• Детям и подросткам без контроля взрослых — модели плохо считывают уязвимость.
• Тем, кто заменяет ботом уже назначенное лечение или приём препаратов.

Как пользоваться без вреда

1. Держите ожидания на уровне «собеседник для разгрузки», а не «специалист».
2. Проверяйте любые советы про здоровье и препараты у врача — модель может ошибаться уверенно.
3. Прочитайте политику конфиденциальности: используются ли ваши сообщения для обучения.
4. Заранее сохраните номер бесплатной психологической помощи. В России работает телефон доверия 8-800-2000-122 (для детей, подростков и родителей).
5. Если состояние ухудшается, а не улучшается, — это сигнал обратиться к человеку, а не менять приложение.

¹ КПТ — когнитивно-поведенческая терапия, подход, в котором работают с автоматическими мыслями и поведением по структурированным протоколам. Именно из-за пошаговости её проще оцифровать в бота.

² Галлюцинация — в контексте языковых моделей это правдоподобно звучащий, но вымышленный ответ: несуществующий факт, диагноз или ссылка, поданные с той же уверенностью, что и верная информация.