Кто отвечает, когда ИИ-агент ошибся: вы или разработчик

Вы дали ИИ-агенту доступ к почте и календарю, попросили «разгрести входящие» — а он от вашего имени согласился на платную подписку и отменил встречу с клиентом. Кто виноват: вы, потому что нажали «разрешить», или компания, которая продала автономный инструмент? Пока агенты умели только болтать, вопрос был теоретическим. С тех пор как OpenAI выпустила Operator, Anthropic — Computer Use, а Google — агентные функции в экосистеме Gemini, агент реально жмёт кнопки в браузере и совершает действия с последствиями. И юридически чёткого ответа, кто за них платит, до сих пор нет.

Что изменилось: от чат-бота к действию

Чат-бот выдавал текст. Максимум вреда от него — плохой совет, который вы сами решили применить. Между советом и последствием стоял человек. Агент¹ убирает этот зазор: он не советует купить билет, а покупает его. Не предлагает черновик письма, а отправляет. Между решением модели и результатом больше нет вашего клика на каждом шаге — в этом и смысл автономности, ради которой агентов и делают.

Отсюда и спор об ответственности. Раньше цепочка была простой: разработчик отвечает за то, что модель работает как заявлено, пользователь — за то, что делает с её выводом. Теперь пользователь один раз выдал широкое разрешение («управляй моей почтой»), а конкретные действия выбирает модель. Формально команду дали вы. Фактически решение принял не человек.

Пользователь отвечает за то, что запустил агента. Разработчик — за то, каким этот агент запущен: какие у него ограничения, что он делает без переспроса и что показывает перед необратимым действием.

Три слоя ответственности

Полезнее не искать одного виноватого, а разложить ситуацию на слои. В большинстве спорных случаев ответственность делится между ними.

• Слой пользователя. Вы выбрали инструмент, выдали ему доступы, сформулировали задачу и решили, где остановить контроль. Дали агенту привязанную карту и право платить без подтверждения — часть риска легла на вас.
• Слой разработчика. Компания решает, что агент делает автономно, а что выносит на подтверждение; насколько понятны его действия; есть ли лог и откат. Если необратимая покупка проходит без единого «вы уверены?» — это конструкторское решение, а не ваша ошибка.
• Слой площадки или сервиса. Магазин, банк, маркетплейс, куда агент пришёл действовать. У них свои правила: считается ли действие бота действием владельца аккаунта, можно ли его оспорить как несанкционированное.

Цена вопроса — не абстрактная. Ошибочный платёж, сорванная сделка, разосланные не тем людям персональные данные, отменённая бронь без возврата. Всё это конкретные деньги и время, и спор о том, кто их вернёт, начинается ровно там, где кончается ваш контроль над действиями агента.

Что предлагают сами разработчики

Пока законодатель молчит, границу проводят условия использования продуктов и их дизайн. Подход у крупных игроков разный, и это важно понимать до того, как вы дадите инструменту доступ к деньгам.

Общий знаменатель: почти все выводят на подтверждение именно необратимые и денежные действия и предупреждают, что за результат отвечает пользователь. Юридически это перенос риска на вас через соглашение. Насколько такой перенос устоит в конкретном споре — зависит от вашей юрисдикции и от того, было ли решение агента предсказуемым результатом заявленной работы или явным сбоем.

Кому это пригодится и кому нет

Когда автономный агент оправдан

• Рутина без денег и необратимости: разметка входящих, черновики ответов, сбор данных в таблицу, наведение порядка в файлах. Худший исход — переделать.
• Действия в песочнице: тестовый аккаунт, отдельная карта с лимитом, среда, где ошибка стоит копейки.
• Сценарии с обязательным подтверждением человека на финальном шаге — когда агент готовит, а кнопку жмёте вы.

Когда широкий доступ давать рано

• Оплаты с основной карты без лимита и без переспроса.
• Переписка от вашего имени с клиентами, партнёрами, госорганами, где ошибка бьёт по репутации или создаёт обязательство.
• Работа с чужими персональными данными: если агент разошлёт их не туда, отвечать перед этими людьми будете вы как оператор данных, а не разработчик модели.
• Юридически и финансово значимые действия — подписание, подача, отмена брони со штрафом.

Как снизить свой риск уже сейчас

1. Выдавайте доступ по минимуму. Отдельная карта с лимитом лучше основной. Права только на нужные сервисы, а не «на всё».
2. Оставляйте человека на необратимых шагах. Если продукт позволяет требовать подтверждение оплаты и отправки — включите это, даже ценой скорости.
3. Ведите лог. Выбирайте инструменты, где видно, что агент сделал и почему — без истории действий спор бездоказателен.
4. Прочитайте условия до, а не после. Ищите пункт о том, кто отвечает за действия агента и как оспорить ошибочную операцию.
5. Проверяйте, оспоримо ли действие на стороне сервиса. Возврат за подписку, отмена платежа, отзыв письма — заранее, а не в момент паники.

¹ Агент — программа на базе языковой модели, которая не просто отвечает текстом, а самостоятельно выполняет цепочку действий для достижения цели: открывает сайты, заполняет формы, вызывает другие сервисы. В отличие от обычного чат-бота, между её решением и результатом может не быть отдельного подтверждения от человека на каждом шаге.