Кто отвечает за ошибку ИИ-агента: вы или модель

В марте 2024 года Air Canada проиграла разбирательство в трибунале провинции Британская Колумбия: чат-бот авиакомпании пообещал пассажиру скидку на билеты по тарифу для скорбящих задним числом, хотя реальные правила такого не допускали. Компания пыталась доказать, что бот — «отдельная юридическая сущность», отвечающая за свои слова сама. Трибунал отклонил аргумент и обязал авиакомпанию выплатить компенсацию. Это пока один из немногих прецедентов, где границу ответственности между человеком и его цифровым помощником провёл суд, а не пресс-релиз вендора.

С тех пор агенты стали автономнее. OpenAI Operator, Anthropic Computer Use, встроенные агенты в браузерах — все они получают право действовать: кликать, отправлять формы, тратить деньги. Чем длиннее цепочка действий без подтверждения, тем острее вопрос: если агент ошибётся, кто заплатит.

Почему «отвечает ИИ» — это не ответ

Ни одна юрисдикция не наделяет ИИ-модель правоспособностью. У неё нет имущества, счёта и статуса стороны договора. Поэтому фраза «за ошибку отвечает нейросеть» юридически пуста: отвечать нечем и некому. Реальные кандидаты на ответственность всегда трое.

• Пользователь — тот, кто запустил агента и дал ему доступ к своим данным, деньгам или системам.
• Разработчик или оператор сервиса — компания, предоставившая модель и инструмент.
• Провайдер платформы, на которой агент действует, — например, маркетплейс или банк, если их API исполнил вредную команду.

Пользовательские соглашения крупных вендоров сегодня почти без исключений перекладывают риск на пользователя. Условия OpenAI и Anthropic прямо указывают, что ответственность за использование вывода модели несёт пользователь, а гарантий пригодности результата для конкретной задачи нет. Это стандартная конструкция «as is», знакомая по любому SaaS.

Автономность агента повышается быстрее, чем меняются правила о том, кто платит за его автономные ошибки. Разрыв закрывают не законы, а строки в пользовательском соглашении.

Три уровня автономии и три уровня риска

Практический способ оценить, на кого ляжет ошибка, — посмотреть, где в цепочке стоит человек. Чем дальше он от финального действия, тем труднее ему потом сказать «я этого не хотел».

Именно режим Auto — юридически самый тёмный. Вы поручили агенту «купить самый дешёвый билет на пятницу», а он забронировал невозвратный тариф на нужную дату следующего года. Формально вы дали команду. Фактически конкретное решение принимала модель без вашего ведома.

Что говорит о таких случаях договорное право

В российском праве действия автоматической системы, которой вы делегировали полномочия, скорее всего будут рассматриваться как ваши собственные — по аналогии с тем, как вы отвечаете за действия своего представителя или за операции, совершённые с помощью ваших средств доступа. Но это аналогия, а не устоявшаяся практика: специальной нормы об ИИ-агентах пока нет, и как суд квалифицирует конкретный спор — предсказать нельзя. Если сумма серьёзная, точную квалификацию вашей ситуации стоит обсуждать с юристом.

Где ошибка агента становится вашей проблемой в деньгах

Абстрактный спор об ответственности превращается в конкретный счёт в нескольких типовых сценариях.

1. Финансовые операции. Агент с доступом к платёжному API оформил лишнюю подписку или купил не то. Возврат зависит от правил продавца, а не от того, что «решала модель».
2. Отправка данных. Агент переслал во внешний сервис конфиденциальный документ или персональные данные. Здесь риск не только денежный: за утечку персональных данных отвечает оператор, то есть вы или ваша компания.
3. Публичные действия от вашего имени. Агент опубликовал пост, отправил письмо клиенту, ответил в поддержке. Репутационные и договорные последствия — на владельце аккаунта.
4. Код в продакшене. Агент-разработчик внёс изменение, которое положило сервис. Ответственность перед клиентами несёт компания, а не поставщик модели.

Общий знаменатель: во всех случаях внешняя сторона — банк, маркетплейс, клиент, регулятор — видит вас, а не агента. Договор с вендором ИИ регулирует только ваши с ним отношения и почти всегда ограничивает его выплаты суммой вашей подписки за несколько месяцев.

Как сузить свою зону риска

Пока правила не устоялись, защита строится на технических и организационных ограничениях, а не на надежде, что «в случае чего отвечает разработчик».

• Держите точку подтверждения человеком на всех действиях, которые тратят деньги, отправляют данные вовне или публичны. Режим Confirm вместо Auto для необратимых операций.
• Ограничивайте доступы агента по принципу минимальных прав: отдельный платёжный лимит, песочница вместо продакшена, токен только на нужные операции.
• Ведите журнал действий агента с временными метками. Если дойдёт до спора, лог — ваше главное доказательство того, что именно и по чьей команде произошло.
• Читайте раздел об ответственности в соглашении вендора до внедрения, а не после инцидента. Ищите слова limitation of liability и indemnification.
• Для бизнеса — фиксируйте в внутреннем регламенте, какие задачи агенту вообще нельзя доверять без второго человека.

Ни один из этих шагов не отменяет ответственности полностью. Но каждый переносит вас из серой зоны «агент действовал сам» в понятную «человек контролировал риск» — а именно это чаще всего решает исход спора.

Отдельная линия — регулирование. Европейский AI Act вводит градацию систем по риску и обязанности для их поставщиков и пользователей, но он не превращает модель в субъекта ответственности. В России профильного закона об ИИ-агентах на момент подготовки материала нет, действуют общие нормы о договорах, деликтах и защите персональных данных. То есть на ближайшие годы ответ на вопрос «человек или агент» остаётся прежним: человек. Агент — это инструмент, пусть и очень самостоятельный.