Как регулируют AI-агентов: три подхода — ЕС, США и Китай

AI-агенты — системы, которые не просто отвечают на запрос, а сами разбивают задачу на шаги, вызывают внешние инструменты и действуют в цикле без участия человека — за 2024–2025 годы превратились из демо в продукты. OpenAI выпустила Operator и режим агентов, Anthropic — Claude с управлением компьютером (computer use), Google — агентские функции в экосистеме Gemini. Регуляторы столкнулись с тем, что их законы писались под модели, которые генерируют текст, а не под системы, которые сами нажимают кнопки. Ниже — что уже есть в законах ЕС, США и Китая и чем эти подходы отличаются.

Почему агент — это отдельная головная боль для регулятора

Обычная языковая модель выдаёт ответ, и ответственность за его использование лежит на человеке. Агент* совершает действия: оформляет заказ, отправляет письмо, меняет запись в базе, переводит деньги через подключённый интерфейс. Между запросом пользователя и результатом появляется цепочка автономных решений, которые никто не проверял вручную.

Отсюда вопросы, на которые старые нормы не отвечают напрямую: кто отвечает за ошибочное действие агента — разработчик модели, интегратор или пользователь; нужно ли человека держать «в контуре» принятия решений; как логировать шаги, чтобы потом разобрать инцидент. Ни один из крупных законов пока не содержит термина «AI-агент» как отдельной категории — регуляторы натягивают на него существующие рамки для ИИ-систем в целом.

Проблема не в том, что агент умный, а в том, что он действует. Юридически разница между «посоветовал перевести деньги» и «перевёл деньги» — колоссальная, и большинство законов об ИИ эту грань пока не проводят.

Евросоюз: риск-ориентированный AI Act

AI Act (Регламент ЕС 2024/1689) вступил в силу в августе 2024 года и вводится поэтапно. Он не выделяет агентов в отдельный класс, но накрывает их общей логикой: чем выше риск применения, тем жёстче требования. Запрещённые практики (например, социальный скоринг) начали действовать раньше, требования к системам высокого риска и к моделям общего назначения — позже, по установленному в регламенте графику. Точные даты вступления отдельных статей стоит сверять по официальному тексту регламента, потому что переходные периоды в нём растянуты на несколько лет.

Что из этого касается агентов напрямую:

• Прозрачность. Пользователь должен знать, что взаимодействует с ИИ, а не с человеком — это прямо релевантно агентам, которые ведут переписку или совершают действия от чьего-то имени.
• Высокий риск. Если агент работает в чувствительной сфере (найм, кредитование, доступ к госуслугам), на него ложатся требования к оценке рисков, ведению документации и человеческому надзору.
• Модели общего назначения. Разработчики базовых моделей, на которых строятся агенты, обязаны раскрывать техническую документацию и данные для обучения в объёме, заданном регламентом.

Штрафы за нарушение AI Act привязаны к обороту компании и достигают крупных сумм в процентах от мирового годового оборота — конкретные пороги заданы в тексте регламента и различаются по типу нарушения.

США: без единого федерального закона

На федеральном уровне отдельного закона об ИИ в США нет. Регулирование складывается из указов исполнительной власти, руководств агентств и законов отдельных штатов. Указ президента об ИИ 2023 года задавал требования к безопасности крупных моделей, но исполнительные распоряжения меняются со сменой администрации, и статус конкретных положений стоит проверять на момент чтения.

Более конкретен уровень штатов. Калифорния приняла ряд законов о раскрытии применения ИИ и о прозрачности, отдельные штаты регулируют использование ИИ в найме и автоматизированные решения. Единого определения «агента» ни один из этих актов не даёт — они оперируют понятиями «автоматизированная система принятия решений» и подобными.

Китай: регулирование по типу сервиса

Китай регулирует ИИ через набор отраслевых правил. Действуют нормы по генеративному ИИ (вступили в силу в 2023 году), требования к алгоритмическим рекомендациям и правила маркировки синтетического контента. Общая черта — обязательная регистрация сервисов, доступных широкой аудитории, и ответственность провайдера за контент и действия сервиса. Для агента, действующего публично, это означает необходимость проходить проверку до запуска.

Сравнение трёх подходов

Таблица описывает общую конструкцию, а не отдельные статьи. Детали и даты вступления норм проверяйте по первоисточникам — переходные периоды и подзаконные акты меняют картину.

Кому это пригодится, а кому пока нет

Пригодится прямо сейчас:

• Компаниям, которые встраивают агентов в продукты для рынка ЕС — им уже нужно понимать, попадает ли применение в категорию высокого риска и какие обязательства это тянет.
• Стартапам в найме, кредитовании, здравоохранении: здесь автоматизированные решения регулируются жёстче всего в любой из трёх юрисдикций.
• Разработчикам, которые дают агенту доступ к платежам, почте или внутренним системам клиента — им придётся выстраивать логирование и разграничение прав заранее, а не после инцидента.

Пока можно не спешить:

• Разработчикам внутренних агентов, которые не выходят за периметр компании и не принимают решений с внешними последствиями.
• Тем, кто использует агентов для черновой генерации текста и кода с обязательной проверкой человеком — это ближе к обычному инструменту, чем к автономной системе.

Что делать разработчику агента уже сегодня

1. Определите, в какой юрисдикции работают ваши пользователи, и найдите профильный акт: для ЕС — AI Act, для США — законы конкретного штата, для Китая — правила по типу сервиса.
2. Оцените, не попадает ли применение в категорию высокого риска (найм, финансы, доступ к услугам) — от этого зависит объём обязательств.
3. Введите логирование действий агента: какой шаг, по какому запросу, с каким результатом. Без этого разобрать инцидент невозможно.
4. Определите точки человеческого контроля для необратимых действий — платежей, отправки данных вовне, изменения записей.
5. Раскройте пользователю, что он взаимодействует с ИИ, — это требование прямо прописано в ряде юрисдикций.

* AI-агент — система на основе языковой модели, которая по одной цели самостоятельно строит последовательность шагов, вызывает внешние инструменты (поиск, API, интерфейс приложения) и действует в цикле, оценивая результат каждого шага, без ручного подтверждения каждого действия.