Кто отвечает, когда решает агент: этика делегирования ИИ

В 2024–2025 годах OpenAI, Anthropic и Google выпустили инструменты, которые не просто отвечают на вопросы, а действуют: OpenAI показала Operator и режим агента в ChatGPT, Anthropic — Claude с функцией Computer Use (кликает по интерфейсу и заполняет формы), Google встроила агентные сценарии в Gemini. Общий сдвиг один: пользователь всё чаще ставит задачу целиком («забронируй перелёт до 20 тысяч рублей на пятницу»), а не диктует каждый шаг. И вместе с удобством появляется вопрос, на который ни один из этих продуктов не отвечает за вас: кто виноват, если агент ошибся.

Что изменилось: от подсказки к действию

Классический чат-бот выдавал текст, а решение принимал человек. Агент¹ замыкает цикл сам: получает цель, разбивает её на шаги, вызывает внешние инструменты — браузер, платёжный API, календарь — и оценивает результат, чтобы продолжить. Разница не в интеллекте, а в полномочиях. Между «подскажи, как отменить подписку» и «отмени мои неиспользуемые подписки» лежит пропасть: во втором случае агент тратит ваши деньги и совершает юридически значимые действия от вашего имени.

Проблема делегирования не новая — мы доверяем действия людям (бухгалтеру, турагенту) и алгоритмам (автопилоту, торговому роботу) давно. Но у делегирования ИИ-агенту есть три особенности, которые ломают привычные схемы ответственности.

• Непрозрачность. Вы не всегда видите, почему агент выбрал именно этот рейс или удалил именно этот файл. Цепочку рассуждений можно запросить, но она не гарантирует, что модель действовала так, как объяснила.
• Скорость и масштаб. Человек-ассистент совершит одну ошибку и остановится. Агент способен повторить её сто раз за минуту — разослать письма, оформить заказы, изменить настройки — прежде чем вы заметите.
• Иллюзия согласия. Нажав «разрешить агенту действовать автономно», вы формально согласились на всё. Но осознанного согласия на каждое конкретное действие вы не давали.

Три вопроса, на которые надо ответить до делегирования

1. Обратимо ли решение

Ключевой критерий. Отправленное письмо, проведённый платёж, удалённые без резервной копии данные, публичный пост — отменить трудно или невозможно. Черновик, локальный файл, предварительный расчёт — легко. Разумная граница проходит здесь: обратимые действия можно доверять агенту с последующей проверкой, необратимые требуют явного подтверждения человеком перед выполнением.

2. Какова цена ошибки

Ошибка при сортировке фотографий и ошибка при подаче налоговой отчётности стоят по-разному. Чем выше цена в деньгах, репутации или правах третьих лиц, тем меньше автономии стоит давать. Отдельная зона риска — решения, затрагивающие других людей: агент, отвечающий на письма от вашего имени, говорит за вас.

3. Можете ли вы объяснить результат

Если завтра вас спросят, почему агент отказал клиенту, отклонил заявку или выбрал подрядчика, а вы ответите «так решила модель», — вы не делегировали задачу, вы сняли с себя ответственность, не имея на это права. Делегировать можно исполнение. Ответственность за результат остаётся на том, кто нажал кнопку.

Автоматизировать стоит то, за что вы готовы отвечать так же, как если бы сделали это сами. Всё остальное — не делегирование, а перекладывание вины на инструмент, который не может её принять.

Как это устроено у разных инструментов

Подходы к автономии у крупных агентных продуктов различаются в главном — сколько контроля они оставляют пользователю по умолчанию. Данные ниже отражают заявленное поведение продуктов на конец 2025 года; конкретные ограничения и условия доступа сверяйте на официальных страницах — они быстро меняются.

Общий знаменатель: ни один вендор не берёт на себя ответственность за последствия действий агента. В пользовательских соглашениях риск ошибок остаётся на пользователе. Это не юридическая придирка, а фактическая рамка, в которой вы принимаете решение о делегировании.

Кому это пригодится и кому нет

Пригодится:

• Разработчику, который поручает агенту рутину — прогнать тесты, собрать зависимости, переименовать файлы в песочнице, где ошибка обратима и локальна.
• Исследователю или аналитику для сбора и первичной обработки данных, где результат всё равно перепроверяется вручную перед публикацией.
• Тому, кто автоматизирует личную рутину с низкой ценой ошибки: черновики писем, подбор вариантов, сортировка входящих без автоотправки ответов.

Не стоит доверять без жёсткого контроля:

• Финансовые операции без лимита и подтверждения — агент, у которого есть доступ к платежам, при неверно понятой цели способен потратить больше, чем вы рассчитывали.
• Юридически значимые действия: подача документов, подписание, отправка официальных обращений от вашего имени.
• Решения о людях — найм, отказ клиенту, модерация, — где ошибка бьёт по третьим лицам, а объяснить её «моделью» вы не сможете.
• Медицинские, правовые и налоговые выводы как окончательные: агент может подготовить черновик, но не заменяет специалиста.

Практические правила безопасного делегирования

1. Разделите действия на обратимые и необратимые. Вторые — только через ваше подтверждение перед выполнением, а не после.
2. Ставьте жёсткие лимиты там, где это возможно: потолок суммы, белый список сайтов и сервисов, запрет на отправку от вашего имени.
3. Требуйте от агента показывать план до действия по задачам с высокой ценой ошибки — сначала «что я собираюсь сделать», потом исполнение.
4. Ведите журнал: что агент сделал, когда и с каким результатом. Без лога вы не сможете ни разобрать ошибку, ни доказать свою добросовестность.
5. Держите откат наготове: резервные копии, возможность отменить платёж, черновики вместо публикаций.
6. Периодически проверяйте агента на задачах, ответ на которые знаете заранее. Дрейф поведения после обновления модели — реальный риск.

¹ Агент — программа на основе языковой модели, которая не просто отвечает текстом, а самостоятельно планирует шаги и вызывает внешние инструменты (браузер, API, файловую систему) для достижения поставленной цели, оценивая промежуточный результат и корректируя действия.