AI-агент внутри компании: как пройти юристов и безопасников

Команда собрала агента на базе GPT-4o или Claude, показала демо, получила восторги менеджмента — и застряла на согласовании с юристами и службой безопасности на два месяца. Сценарий типовой. Агент, в отличие от чат-бота с ручным вводом, действует сам: читает почту, ходит в CRM, дергает API, иногда пишет данные обратно. Именно поэтому его согласование ближе к внедрению нового сотрудника с доступами, чем к покупке лицензии на софт. Ниже — карта вопросов, которые вам зададут, и что подготовить, чтобы не ходить по кругу.

Почему агент — это не просто ещё одна интеграция

Обычный SaaS-инструмент обрабатывает данные предсказуемо: вы знаете, какие поля уходят наружу и куда. Агент* действует автономно в рамках заданной цели, сам решает, какой инструмент вызвать и с какими аргументами. Это создаёт три источника тревоги для юристов и безопасников сразу.

• Утечка данных в модель. Что именно уходит в промпт и в контекстное окно**, и не попадёт ли это в обучение поставщика.
• Непредсказуемость действий. Агент может вызвать не тот инструмент, отправить письмо не тому адресату, удалить запись. Кто отвечает за ущерб.
• Прослеживаемость. Если агент принял решение, можно ли восстановить, на основании чего, и предъявить это при проверке или споре.

Если прийти на согласование без ответов на эти три пункта, разговор превратится в блокировку по умолчанию. Безопаснику проще сказать «нет», чем взять на себя риск, который ему не объяснили.

Что спросит security-отдел

Куда уходят данные и на каких условиях

Первый вопрос — про поставщика модели и режим обработки. У OpenAI и Anthropic корпоративные и API-тарифы по умолчанию не используют ваши данные для обучения, но это нужно подтверждать текущими условиями (DPA, Data Processing Addendum) на дату внедрения, а не по памяти. Проверьте на официальных страницах: политика меняется, и то, что было верно год назад, могло измениться.

Второй — где физически обрабатываются данные. Если у вас требования к локализации персональных данных (для РФ — обработка ПДн граждан в базах на территории страны), облачный API зарубежного вендора этот вопрос сам не закроет. Варианты: обезличивать данные до отправки, использовать развёртывание в контуре (Azure OpenAI в нужном регионе, self-hosted открытые модели), либо ограничить агента задачами без персональных данных.

Какие доступы получает агент

Здесь работает принцип минимальных привилегий. Агенту нужен не аккаунт администратора, а сервисная учётная запись с точечными правами: читать конкретные таблицы, но не писать; вызывать три метода API, но не все. Подготовьте матрицу «инструмент — право — обоснование» заранее — это снимает половину вопросов.

Агент, которому выдали доступ «на всякий случай, чтобы не переделывать», — это не удобство, а инцидент, который ещё не случился.

Как всё логируется

Security захочет видеть аудит-лог: какой запрос пришёл, какой инструмент агент выбрал, с какими параметрами вызвал, что вернулось, что ушло пользователю. Без этого нельзя ни расследовать инцидент, ни доказать, что агент действовал в рамках. Логирование промптов и вызовов инструментов — базовое требование, закладывайте его в архитектуру, а не прикручивайте потом.

Что спросит юридический отдел

Юристов волнует ответственность и договорная чистота. Ключевые темы:

1. Условия использования поставщика. Разрешает ли лицензия ваш сценарий, кому принадлежат результаты генерации, какие гарантии даёт вендор и какие явно исключает.
2. Персональные данные. Есть ли правовое основание передавать ПДн в обработку третьему лицу, оформлено ли поручение на обработку, уведомлены ли субъекты, если требуется.
3. Ответственность за действия агента. Если агент отправит клиенту неверную информацию или совершит действие с последствиями — кто отвечает. Ответ почти всегда: компания, а не поставщик модели. Значит, нужны ограничители.
4. Отраслевые ограничения. В финансах, медицине, госсекторе есть свои режимы. Автономное принятие решений без человека может быть прямо ограничено.

Практический вывод для юристов: на старте держите человека в цикле (human-in-the-loop) для действий с последствиями. Агент готовит — человек подтверждает. Это снимает большинство юридических возражений и позволяет запустить пилот, пока идёт оценка полной автономии.

Уровни автономии и их цена в согласовании

Стратегия, которая проходит согласование быстрее всего: начать с первой-второй строки, накопить логи и статистику ошибок, и только потом идти за расширением прав с цифрами в руках.

Кому это пригодится, а кому нет

Пригодится, если вы:

• внедряете агента в регулируемой отрасли (финтех, медтех, страхование), где согласование неизбежно;
• даёте агенту доступ к персональным данным клиентов или коммерческой тайне;
• хотите, чтобы пилот дошёл до прода, а не умер на этапе «безопасность против».

Не станет узким местом, если агент работает только с публичными или синтетическими данными, ничего не пишет в боевые системы и обслуживает одного разработчика в песочнице. Тогда достаточно уведомить security, а не проходить полный цикл согласования — но убедитесь, что данные действительно не содержат ПДн и коммерческой тайны, иначе «песочница» окажется фикцией.

Чек-лист перед походом на согласование

1. Описание сценария: что агент делает, какие данные видит, какие действия совершает.
2. Поставщик модели и актуальный режим обработки данных (со ссылкой на его текущий DPA).
3. Матрица доступов: инструмент — право — обоснование.
4. Схема логирования и хранения аудит-логов.
5. Точки human-in-the-loop для действий с последствиями.
6. План отката: как быстро отключить агента и что произойдёт с незавершёнными задачами.

С этим пакетом разговор идёт не «дайте попробовать», а «вот риски и вот как они закрыты» — и согласование из блокады превращается в рабочую встречу.

* Агент — программа на основе языковой модели, которая для достижения цели сама выбирает и вызывает внешние инструменты (API, поиск, действия в системах), а не только генерирует текст в ответ на реплику.

** Контекстное окно — объём текста (в токенах), который модель удерживает и учитывает за один запрос: инструкции, данные, историю диалога. Всё, что туда попадает, уходит на обработку поставщику.