Кто в компании отвечает за жизненный цикл AI-агента

Агент оформил возврат клиенту на 40 000 рублей по несуществующему поводу, отправил письмо от имени компании с неверными сроками поставки, вызвал внешний API и потратил месячный лимит токенов за ночь. В каждом из этих случаев вопрос один: кто это допустил и кто теперь чинит. И почти всегда выясняется, что жизненным циклом агента в компании не владеет никто целиком — есть тот, кто его собрал, тот, кто подключил к базе, и тот, кто оплачивает счёт, но нет одного человека, отвечающего за агента от идеи до отключения.

Проблема не в технологии, а в отсутствии роли. Модель агент¹ — это не чат-бот, который отвечает на вопросы. Это программа, которая принимает решения и совершает действия во внешних системах: пишет в CRM, отправляет письма, создаёт задачи, тратит деньги. У любого такого действия есть последствия, а значит, должен быть владелец.

Почему «его написал разработчик» — не ответ

Классическая ошибка: раз агента собрал инженер, значит, инженер за него и отвечает. Но разработчик отвечает за код и интеграции, а не за то, правильно ли агент трактует бизнес-правило возврата или допустимо ли ему писать клиенту в выходной. Эти решения принимает бизнес, а не тот, кто настроил вызовы функций.

Жизненный цикл агента распадается на этапы, и на каждом — своя зона ответственности. Если её не назначить явно, ответственным по умолчанию становится тот, кто первым получит претензию.

• Постановка задачи. Зачем агент нужен, какие действия ему разрешены, где проходит граница автономии. Это бизнес-владелец процесса.
• Разработка и интеграция. Промпты, инструменты, доступы к системам, обработка ошибок. Инженер.
• Проверка на безопасность и данные. Какие данные агент видит, что логируется, не утечёт ли персональная информация во внешнюю модель. Security и приватность.
• Запуск и мониторинг. Кто смотрит на метрики, ловит аномалии, реагирует на сбой в три часа ночи. Эксплуатация.
• Вывод из эксплуатации. Кто и по какому сигналу выключает агента, отзывает его доступы, архивирует логи. Чаще всего этого этапа нет вообще.

Модель RACI для агента

Самый простой способ закрыть пробел — расписать роли по этапам через матрицу вроде RACI: кто отвечает (Responsible), кто утверждает (Accountable), с кем согласуют (Consulted), кого информируют (Informed). Ниже — рабочая заготовка, которую компания подгоняет под себя.

Ключевой человек здесь — владелец процесса, а не самый технически подкованный. Именно он утверждает, что агент делает, и он же несёт последствия, если агент делает это неправильно. Инженер остаётся ответственным за то, как агент это делает технически.

Если на вопрос «кто выключит агента, когда он начнёт вредить» в компании нет имени и фамилии — агент запущен без владельца, каким бы совершенным ни был его код.

Три модели ответственности

На практике компании расходятся по тому, где живёт эта роль. Каждая модель работает в своём масштабе.

Кому это пригодится, а кому пока нет

Разбираться с ролями по жизненному циклу стоит не всем и не сразу.

• Пригодится: компании, где агент уже совершает действия с деньгами, клиентами или юридическими последствиями — оформляет заказы, ведёт переписку, меняет данные в CRM. Здесь цена ошибки измеряется в рублях и репутации, и владелец нужен до запуска.
• Пригодится: организации с несколькими агентами от разных команд. Без единого реестра и правил вывода из эксплуатации через год никто не вспомнит, какой агент зачем работает и кто его трогал последним.
• Пока избыточно: одиночный внутренний агент, который суммирует документы и ничего не меняет во внешних системах. Достаточно, чтобы у него был один понятный владелец и логи.
• Пока избыточно: пилот на две недели с ручным контролем каждого действия. Формальная матрица RACI здесь только замедлит проверку гипотезы.

С чего начать за один день

1. Составьте реестр агентов: что запущено, кто автор, к каким системам подключён.
2. Для каждого впишите одно имя в графу «владелец» — человек, а не отдел.
3. Пропишите сигнал и процедуру отключения: по какому событию агента гасят и кто нажимает кнопку.
4. Проверьте, ведутся ли логи действий агента и кто их читает.
5. Назначьте того, кто раз в квартал пересматривает доступы агента — не нужны ли они ему до сих пор.

Ни один из этих шагов не требует новых инструментов. Он требует решения, что владелец у агента есть всегда — и на запуске, и в тот момент, когда агент придётся выключить.

¹ Агент — программа на основе языковой модели, которая не просто генерирует текст, а планирует и выполняет действия во внешних системах: вызывает функции, обращается к API, читает и меняет данные. В отличие от чат-бота, агент действует, а не только отвечает.