Когда ИИ-агент действует сам: кто отвечает за нарушение

Агентные системы вышли из демо-режима в 2024–2025 годах: OpenAI показала Operator и режим агента в ChatGPT, Anthropic выпустила Claude с функцией Computer Use, Google — агентные сценарии в экосистеме Gemini. Общий принцип у всех один: вы формулируете цель, а модель сама кликает по интерфейсам, заполняет формы, отправляет запросы и совершает покупки. Разница с обычным чат-ботом принципиальная — агент не советует, а делает. И как только он что-то делает во внешнем мире, всплывает вопрос, который до сих пор обходили стороной: если агент нарушил закон или условия сервиса, отвечает за это кто?

Почему агент — это не просто продвинутый чат-бот

Обычная языковая модель выдаёт текст. Ответственность за то, что вы с этим текстом сделаете, лежит на вас. Агент¹ устроен иначе: он получает право совершать действия — заходить в аккаунты, нажимать кнопки, отправлять деньги, писать людям от вашего имени. Между вашей командой «забронируй самый дешёвый билет» и результатом стоит цепочка автономных решений, которые вы не контролируете пошагово.

Именно в этом зазоре и возникает риск. Вы задали цель, агент выбрал средства — и одно из средств оказалось нарушением. Формально команду отдали вы. С точки зрения права действие инструмента — это действие того, кто инструментом воспользовался. Топор не отвечает за порубленную дверь.

Автономность агента не создаёт для него автономной ответственности. Она перекладывает риск на человека или компанию, которые агента запустили и не проверили результат.

Пять типичных сценариев непреднамеренного нарушения

Речь не о злом умысле, а о ситуациях, когда агент буквально выполняет задачу и по дороге переступает черту. Разберём самые вероятные.

1. Скрапинг и обход правил сайта. Агенту поручено «собрать цены конкурентов». Он массово запрашивает страницы, игнорируя robots.txt и пользовательское соглашение, где автоматический сбор данных прямо запрещён. Формально это нарушение условий сервиса, а при обходе технических ограничений — потенциально и закона о защите информации.
2. Обработка персональных данных. Агент собирает контакты клиентов из открытых источников и складывает в базу. В России обработка персональных данных требует правового основания по закону № 152-ФЗ. Агент про 152-ФЗ не думает — он просто выполняет «собери базу лидов».
3. Рассылка без согласия. «Разошли предложение по этому списку» — и агент отправляет рекламу людям, которые согласия на неё не давали. Это состав по закону «О рекламе» и по КоАП, отвечает рекламораспространитель, то есть вы.
4. Сделки и обязательства от вашего имени. Агент соглашается с офертой, подтверждает заказ, отправляет предоплату. Договор считается заключённым, даже если конкретную кнопку нажимал не человек, а автоматизация, которую человек запустил.
5. Нарушение авторских прав. Агент генерирует презентацию, подставляя найденные в сети изображения и тексты без проверки прав. Использование чужого контента — это ответственность того, кто его опубликовал или использовал в коммерции.

Что говорят сами разработчики

Компании не скрывают, что ответственность остаётся на пользователе, и встраивают в агентов паузы для подтверждения. В документации Operator и в описании Computer Use у Anthropic прямо указано, что для чувствительных действий — покупок, отправки писем, ввода платёжных данных — агент должен запрашивать подтверждение человека. Это и есть основной барьер: система human-in-the-loop².

Проблема в том, что подтверждение легко отключить или проскроллить не глядя. Чем удобнее агент, тем сильнее соблазн доверять ему без надзора — и тем выше цена ошибки.

Сравнение подходов к контролю

Таблица описывает общую логику, а не гарантию. Конкретный набор точек подтверждения зависит от версии и от того, как вы настроили агента. Перед запуском в бой проверяйте актуальную документацию — она обновляется чаще, чем выходят обзоры.

Кому это пригодится и кому нет

Агенты дают реальную экономию времени, но подходят не для всех задач.

• Подходит: рутина без юридических последствий — сортировка входящих, черновики писем на проверку, сбор публичной информации для личного использования, подготовка таблиц из ваших же данных. Здесь ошибка агента стоит минут, а не денег.
• Подходит с осторожностью: покупки в известных магазинах, бронирование, работа с CRM — но только с обязательным подтверждением каждого действия, меняющего деньги или обязательства.
• Не подходит: массовые рассылки, сбор персональных данных, работа с чужими аккаунтами, любые действия на грани условий сервиса. Здесь автономность агента превращается в источник штрафов, а не эффективности.

Как снизить риск на практике

1. Не отключайте подтверждение для действий, которые тратят деньги или создают обязательства.
2. Дайте агенту отдельный аккаунт с минимальными правами и лимитом трат, а не свой основной с привязанной картой.
3. Формулируйте цель узко. «Найди билет и покажи мне» безопаснее, чем «купи самый дешёвый билет».
4. Ведите лог действий агента — при споре это единственное, чем вы докажете, что произошло.
5. Для задач с персональными данными и рекламой держите человека в петле обязательно: цена ошибки тут измеряется в штрафах по КоАП, а не в извинениях.

Что дальше

Пока правовой режим для автономных агентов нигде в мире толком не оформлен, действует простое правило: агент — ваш инструмент, и за результат отвечаете вы. Регуляторы к этой теме только подступаются, и в ближайшие годы, вероятно, появятся требования к прозрачности и логированию агентных действий. Но ждать их не нужно — здравые ограничения стоит ставить самому уже сейчас, пока агент не оформил от вашего имени подписку, которую вы не заказывали.