AI-агент ошибся и списал деньги: кто отвечает

Осенью 2024 года авиакомпания Air Canada проиграла разбирательство в трибунале провинции Британская Колумбия: её чат-бот пообещал пассажиру скидку на билет по тарифу для скорбящих, которой на деле не существовало. Компания пыталась доказать, что бот — отдельная сущность, отвечающая за свои слова сама. Трибунал ответил, что бот — часть сайта авиакомпании, и за его обещания отвечает она. Пассажиру вернули разницу. Этот кейс стал первым публичным ответом на вопрос, который сейчас встаёт всё чаще: если автономный AI-агент совершил действие с деньгами или обязательствами, отвечает за ошибку он, разработчик или пользователь.

Разница между чат-ботом 2023 года и агентом* 2025 года принципиальна. Чат-бот выдавал текст, который человек мог проигнорировать. Агент подключён к инструментам: у него есть доступ к календарю, платёжной карте, почте, API маркетплейса или бухгалтерии. Он не советует купить билет — он его покупает. И когда покупка оказывается не той, разбираться приходится не с текстом на экране, а с реальным списанием.

Три стороны, между которыми делят ответственность

Юридически ситуация с автономным агентом раскладывается на три роли, и ни у одной из них пока нет ясного статуса «виновника по умолчанию».

• Пользователь — тот, кто дал агенту задачу и, как правило, привязал платёжный инструмент. С точки зрения продавца именно он совершил покупку: карта его, аккаунт его.
• Оператор агента — сервис, который запускает агента и решает, к каким инструментам его подпустить. Это может быть та же компания, что сделала модель, а может быть сторонний стартап-обёртка.
• Разработчик модели — OpenAI, Anthropic, Google и другие. Их пользовательские соглашения почти единодушно снимают ответственность за результат генерации и запрещают полагаться на модель в критичных сценариях без проверки человеком.

Пользовательские соглашения крупных лабораторий устроены так, что риск ошибки по цепочке спускается к тому, кто ближе всех к деньгам, — то есть к вам.

OpenAI в условиях использования прямо указывает, что вывод модели может быть неточным, и ответственность за решения на его основе несёт пользователь. Anthropic формулирует похоже. Это не значит, что суд автоматически с этим согласится — Air Canada показала обратное, — но это отправная точка любого спора.

Где именно агенты ошибаются с деньгами

Ошибка агента редко выглядит как сбой. Чаще это уверенное выполнение не того действия. Типичные сценарии, которые уже наблюдают в 2024–2025 годах:

• агент бронирует отель или билет не на те даты, неверно поняв формулировку задачи;
• оформляет платную подписку вместо бесплатного триала, потому что кнопка «оформить» была ближе к цели, чем кнопка «отмена»;
• отправляет письмо или сообщение не тому адресату из списка контактов;
• покупает товар по галлюцинации** — принимает несуществующую акцию или цену за реальную.

В каждом из этих случаев формально команду отдал человек. Но человек не подтверждал конкретный платёж — он делегировал агенту право действовать. Именно этот зазор между «я поручил» и «я подтвердил каждый шаг» и есть источник споров.

Как разработчики страхуются: разрешения и подтверждения

Ответом индустрии стали не юридические, а инженерные ограничения. Модель делегированного доступа выстраивается так, чтобы критичные действия требовали явного согласия человека.

Operator от OpenAI и Computer Use у Anthropic по умолчанию запрашивают подтверждение перед платежами и вводом реквизитов. Это инженерное решение снижает риск, но перекладывает финальную ответственность обратно на человека: раз вы нажали «подтвердить», значит, действие ваше.

Что говорит российское право

Отдельного закона об ответственности AI-агента в России нет. Спор будет рассматриваться по общим нормам. Если агент действовал через ваш аккаунт и вашу карту, продавец видит обычную сделку, и оспаривать её придётся вам — по правилам возврата товара или отмены услуги, а не по «вине искусственного интеллекта».

Если ошибка произошла из-за сбоя платного сервиса-оператора, теоретически можно ставить вопрос о качестве услуги. Но доказать причинно-следственную связь между дефектом сервиса и вашей потерей сложно, а пользовательское соглашение почти наверняка содержит отказ от ответственности за результат. Конкретную перспективу такого спора стоит обсуждать с юристом: универсального ответа здесь нет.

Что делать, если агент уже ошибся

1. Сохраните логи: что вы поручили, что сделал агент, скриншоты подтверждений или их отсутствия.
2. Если списание свежее — обратитесь к продавцу за отменой заказа или возвратом до отправки/оказания услуги.
3. Проверьте, есть ли у сервиса-оператора функция отмены действия или обращения в поддержку по спорным операциям.
4. При отказе продавца и банка — оценивайте чарджбэк как крайний вариант, но помните: банк может счесть операцию авторизованной, раз она прошла через ваш аккаунт.

Кому агенты пригодятся, а кому пока рано

Пригодятся, если задачи рутинные и обратимые: собрать данные с нескольких сайтов, заполнить форму без оплаты, разобрать входящие, подготовить черновик заказа для вашей финальной проверки. Здесь цена ошибки — потерянные минуты, а не деньги.

Стоит держать на коротком поводке, если в игре платежи, переписка от вашего имени и юридически значимые действия. Для бизнеса, где агент касается бухгалтерии или отправки документов контрагентам, автономность без подтверждения человека — это принятый на себя риск, а не экономия.

Рано доверять полностью тем, кто рассчитывает, что за ошибку заплатит кто-то другой. По текущим соглашениям и практике счёт с высокой вероятностью придёт тому, чья карта была привязана. Пока не сложилась судебная практика, единственная реальная защита — технические лимиты и подтверждение критичных шагов вручную.

* Агент — программа на основе языковой модели, которая не просто отвечает текстом, а сама вызывает внешние инструменты (браузер, платежи, API), чтобы выполнить многошаговую задачу.

** Галлюцинация — уверенно сформулированный, но вымышленный факт, который модель выдаёт за реальный: несуществующая скидка, тариф или условие.