Должен ли ИИ-агент всегда признаваться, что он не человек

Летом 2024 года в силу вступил EU AI Act — первый крупный закон, который прямо обязывает разработчиков помечать взаимодействие с ИИ. Статья 50 регламента требует: если человек общается с системой ИИ, он должен быть об этом проинформирован, кроме случаев, когда это и так очевидно. Отдельно закон обязывает маркировать синтетический аудио, видео и изображения. Требования по прозрачности применяются с более поздней даты, чем базовые положения регламента, — точные сроки поэтапного вступления смотрите в официальном тексте. Вопрос «должен ли агент признаваться, что он не человек» перестал быть философским: у него появилась цена в евро.

Что вообще считается «агентом»

Под агентом здесь понимают программную систему, которая ведёт диалог или выполняет задачи от лица бизнеса: голосовой бот в колл-центре, чат на сайте, ассистент, который сам бронирует столик или спорит с продавцом о возврате. Ключевое отличие от простого чат-бота по кнопкам — способность генерировать реплики и принимать решения, которые человек может принять за действия живого сотрудника.

Именно эта неотличимость и создаёт проблему. Когда бот отвечает односложно и с ошибками, никто не обманывается. Когда он шутит, делает паузы и говорит «секундочку, уточню» — граница стирается.

Агент — в контексте ИИ так называют систему, которая не просто отвечает на запрос, а самостоятельно планирует шаги, вызывает внешние инструменты (поиск, API, оплату) и доводит задачу до результата с минимальным участием человека.

Где раскрытие уже обязательно

Единого мирового правила нет — есть лоскутное одеяло из региональных норм. Ниже — что известно на сегодня.

Формулировки и сроки в таблице упрощены. Перед тем как строить на них комплаенс, сверьтесь с первоисточником — тексты законов правятся, а подзаконные разъяснения выходят отдельно.

Аргументы «за» обязательное раскрытие

• Информированное согласие. Человек по-разному строит разговор с машиной и с живым сотрудником: чему-то доверяет меньше, о чём-то не станет рассказывать.
• Защита от манипуляций. Голосовой агент, имитирующий эмпатию, эффективнее давит на пожилого клиента при продаже. Калифорнийский закон родился именно из страха перед ботами в политической агитации.
• Ответственность. Если пользователь думал, что говорит с человеком, а бот пообещал невыполнимое, спор о том, кто виноват, усложняется.

Аргументы «против» — или хотя бы «не всегда»

Оборотная сторона тоже есть, и она не сводится к «бизнесу лень».

• Очевидность. Если на кнопке написано «спросить у ассистента», отдельное «я не человек» в каждой реплике превращается в шум.
• Разрушение сценария. В терапевтических и обучающих ботах постоянные напоминания о том, что собеседник — программа, мешают самому механизму помощи.
• Форма важнее факта. Формальная плашка «сгенерировано ИИ» никого не защищает, если под ней бот всё равно манипулирует. Прозрачность — не галочка.

Вопрос не в том, обязан ли агент произнести «я бот». Вопрос в том, понимает ли человек, с чем он имеет дело, к моменту, когда это влияет на его решение.

Как это делают на практике

Крупные разработчики выбрали разные подходы. OpenAI и Anthropic в правилах использования запрещают выдавать своих ассистентов за людей и требуют раскрытия в чувствительных сценариях. Голосовые демонстрации вроде тех, что показывали для реального телефонного разговора, вызывали публичную критику именно из-за того, что собеседник на том конце не знал, что говорит с машиной.

Сложившиеся паттерны раскрытия:

1. Стартовое уведомление. Одна фраза в начале диалога: «Вас консультирует виртуальный ассистент». Дёшево, покрывает требование очевидности.
2. Раскрытие по запросу. Бот честно отвечает «нет, я не человек», если его прямо спросить. Минимум, ниже которого падать рискованно.
3. Контекстное раскрытие. Плашка появляется в момент, когда агент переходит к продаже, сбору данных или юридически значимому действию.
4. Передача человеку. Опция «соединить с оператором» доступна в любой момент — снимает часть претензий сама по себе.

Кому это пригодится и кому нет

Раскрытие критично

• Продажи и апселл. Здесь и калифорнийский, и европейский подход требуют максимальной честности: агент влияет на покупку.
• Финансы, медицина, юридические консультации. Цена ошибки высока, а доверие к «живому специалисту» выше — тем важнее не вводить в заблуждение.
• Госуслуги и любое общение с уязвимыми группами. Пожилые люди и дети хуже распознают синтетическую речь.

Можно ограничиться минимумом

• Справочный бот на сайте. «Задайте вопрос ассистенту» уже делает природу очевидной.
• Внутренние инструменты для сотрудников. Все и так знают, что это система.
• Творческие и игровые сценарии. Пользователь осознанно пришёл поговорить с персонажем; здесь важнее не скрыть факт при прямом вопросе.

Что делать бизнесу уже сейчас

Даже без прямого требования в вашей юрисдикции разумно готовиться к тому, что оно появится.

1. Добавьте одно стартовое уведомление о том, что собеседник — виртуальный ассистент.
2. Настройте честный ответ на прямой вопрос «ты человек?».
3. Оставьте видимую кнопку перехода на живого оператора.
4. Маркируйте сгенерированный контент там, где он может сойти за реальный.
5. Зафиксируйте политику раскрытия во внутреннем регламенте — на случай спора или проверки.

Тренд очевиден: чем убедительнее агенты имитируют людей, тем настойчивее регуляторы требуют, чтобы они этого не скрывали. Раскрытие перестаёт быть жестом доброй воли и становится частью комплаенса — и лучше внедрить его до того, как это сделает закон вашей страны.