Агент, который притворяется человеком: где проходит черта

Голосовые и текстовые агенты дошли до уровня, когда собеседник в чате или на звонке не всегда понимает, что общается с программой. Модели уровня GPT-4o, Gemini и Claude поддерживают паузы, уточняющие вопросы, извинения и «человеческие» обороты, а поверх них строят агентов^* для продаж, поддержки и найма. Вопрос перестал быть теоретическим: должен ли такой агент представляться машиной — и что будет, если он этого не сделает.

Что именно обсуждают

Спор идёт не о том, можно ли автоматизировать переписку — это давно норма. Спор о раскрытии: обязан ли бот прямо сообщать, что он бот, до того как получит от человека согласие, деньги или персональные данные. Разница между «здравствуйте, вас приветствует ассистент компании» и репликой от лица несуществующего менеджера «Анны» — это разница между автоматизацией и введением в заблуждение.

Показательный прецедент случился ещё в 2018 году, когда Google представила Duplex — систему, которая звонила в салоны и рестораны и бронировала время голосом, неотличимым от человеческого, с вставками вроде «эм-м» и «ага». После критики компания добавила обязательную фразу о том, что звонит автоматический сервис. С тех пор технология ушла далеко вперёд, а этическая развилка осталась той же.

Проблема не в том, что агент умеет звучать как человек. Проблема в том, что молчание об этом превращает удобный сервис в скрытую манипуляцию — особенно когда на другом конце уговаривают что-то купить или проголосовать.

Где раскрытие уже требует закон

Единого мирового правила нет, но регуляторы движутся в сторону обязательного раскрытия. Ниже — три ориентира. Точные формулировки и сроки применения лучше сверять с первоисточником, потому что нормы вводятся поэтапно.

В России отдельного закона, обязывающего чат-бота представляться машиной, на сегодня нет. Но общие нормы о защите прав потребителей и о недопустимости введения в заблуждение никто не отменял: если агент от лица вымышленного сотрудника обещает то, чего компания не выполнит, отвечать будет компания, а не «Анна». Конкретную квалификацию и применимые статьи стоит уточнять с юристом под вашу ситуацию.

Аргументы сторон

За имитацию без раскрытия

• Конверсия. Внутренние тесты компаний нередко показывают, что «человечный» тон удерживает собеседника дольше, чем сухой «я бот». Публичных цифр по конкретным продуктам мало, поэтому ссылаться на «рост на N процентов» без источника некорректно.
• Плавность диалога. Дисклеймер в начале каждого сообщения раздражает и удлиняет переписку.
• Контекст очевиден. В форме поддержки на сайте пользователь и так понимает, что первым отвечает автомат.

За обязательное раскрытие

• Информированное согласие. Человек имеет право знать, кому он диктует номер карты или паспортные данные.
• Уязвимые группы. Пожилые собеседники и люди в стрессе хуже распознают синтетику и легче поддаются давлению.
• Мошенничество. Технология голосовых клонов и «человечных» ботов — готовый инструмент для скам-схем, и норма о раскрытии проводит границу между легальным сервисом и обманом.

Кому это пригодится, а кому навредит

Разберём по сценариям, где имитация человека уместна, где нейтральна, а где превращается в риск для самого бизнеса.

• Поддержка первого уровня. Агент отвечает на типовые вопросы. Здесь честное «на связи виртуальный ассистент, при необходимости переключу на оператора» ничего не ломает и снимает претензии. Скрывать природу бота смысла нет.
• Исходящие продажи и обзвон. Самая рискованная зона. Агент, выдающий себя за живого менеджера ради сделки, — именно тот случай, который прямо регулируют законы вроде калифорнийского. Раскрытие обязательно.
• HR и первичные интервью. Кандидату важно понимать, кто задаёт вопросы и кто принимает решение. Имитация человека здесь бьёт по бренду работодателя сильнее, чем экономит время.
• Внутренние ассистенты и разработка. Агент разбирает тикеты или пишет черновики для сотрудников, которые знают, что это ИИ. Раскрытие уже произошло по умолчанию, дополнительные оговорки не нужны.
• Знакомства, психология, доверительное общение. Зона, где скрытая имитация наносит максимальный репутационный и этический ущерб. Если человек думает, что делится переживаниями с живым собеседником, а это модель, обратная реакция после разоблачения предсказуемо жёсткая.

Практический минимум для тех, кто строит агентов

1. Определите юрисдикции ваших пользователей и сверьте требования к раскрытию (EU AI Act, локальные нормы о потребителях, правила площадки).
2. Заложите в промпт и в интерфейс явную идентификацию агента как ИИ — хотя бы один раз в начале сессии.
3. Дайте быстрый путь к живому человеку и не имитируйте отказ переключить.
4. Проверьте политику использования вашей модели: обман пользователя часто запрещён самим вендором, и нарушение грозит блокировкой доступа к API.
5. Логируйте, что и от чьего имени говорил агент, — это защита на случай спора.

^* Агент — программа на основе языковой модели, которая не просто отвечает на реплику, а самостоятельно ведёт диалог к цели: уточняет данные, вызывает внешние сервисы, совершает действия (бронирование, оформление заявки) в несколько шагов.