Автономные ИИ-агенты: почему демо работает, а прод — нет

За 2024–2025 годы почти каждый крупный вендор выпустил своего «агента»: OpenAI показала Operator, Anthropic — компьютерное управление в Claude, Google встроила агентские сценарии в Gemini, Microsoft раскатывает Copilot-агентов внутри Office и Dynamics. На демо это выглядит как магия: система сама открывает браузер, заполняет форму, находит рейс, оформляет заказ. Проблема в том, что демо и прод — это два разных мира, и разрыв между ними вендоры показывают неохотно.

Речь не о том, что агенты не работают. Речь о том, что цифра «выполняет задачу» на маркетинговом слайде и цифра «доводит задачу до конца без вмешательства человека» в вашей инфраструктуре — это разные числа, и второе почти всегда ниже.

Что такое агент и почему это важно для надёжности

Под агентом¹ сегодня понимают не просто чат-бота, а систему, которая получает цель, сама планирует шаги, вызывает внешние инструменты (браузер, API, файлы, терминал) и решает, когда остановиться. Ключевое слово — «сама». Именно автономность создаёт эффект магии на демо и она же создаёт проблему надёжности в проде.

Причина простая и математическая. Если задача состоит из десяти шагов и на каждом шаге агент прав с вероятностью 95%, то вероятность пройти всю цепочку без ошибки — это 0.95 в десятой степени, около 60%. Поднимите цепочку до двадцати шагов — и вы уже ниже 40%. Единичная ошибка в середине цепочки часто ломает всё, потому что следующие шаги строятся на неверном результате предыдущего.

Надёжность агента — это не средняя точность одного ответа, а вероятность пройти всю цепочку до конца. Эти два числа отличаются в разы, и вендор обычно показывает первое.

Где именно прячется разрыв

Демо-ролик снимается в контролируемой среде: заранее известный сайт, стабильный интернет, задача, которую прогнали десятки раз. Прод отличается по нескольким пунктам сразу.

• Хвост случаев. Демо покрывает типовой сценарий. В реальности всплывает капча, всплывающее окно cookie, изменившаяся вёрстка сайта, товар закончился, форма требует поле, которого не было.
• Накопление ошибок. Агент не всегда замечает, что ошибся на шаге 3, и уверенно продолжает до шага 8, где всё разваливается.
• Отсутствие «я не знаю». Модель склонна выдавать правдоподобный ответ вместо честного отказа — то, что называют галлюцинацией. В агентском сценарии галлюцинация превращается в действие: не в неверный текст, а в неверный клик или неверный вызов API.
• Стоимость и время. Один запуск агента с длинной цепочкой и большим контекстным окном² может стоить в разы дороже обычного вызова модели и занимать минуты, а не секунды.

Что показывают открытые замеры

Есть публичные бенчмарки, которые меряют именно доведение задачи до конца, а не среднюю точность. Например, тест WebArena (Carnegie Mellon University) оценивает выполнение реалистичных веб-задач в браузере, и лучшие результаты там долго держались заметно ниже человеческого уровня. Тест SWE-bench (Princeton NLP) меряет, сколько реальных задач с GitHub агент закрывает патчем, который проходит тесты репозитория. Конкретные проценты быстро устаревают по мере выхода новых моделей, поэтому сверяйте свежие цифры на страницах самих бенчмарков, а не по годовалым пресс-релизам.

Важно, что даже топовые результаты этих тестов — это не «почти сто процентов». Это уровень, на котором значимая доля задач всё ещё требует человека. Вендор в презентации покажет вам ту долю, где всё получилось.

Сравнение: что вендоры называют «агентом»

Ниже — грубая карта подходов на конец 2025 года. Возможности и доступность меняются часто, точный статус и цены проверяйте на официальных страницах продуктов.

Общий паттерн: чем более контролируема и предсказуема среда, тем надёжнее агент. Внутри одного корпоративного приложения с известным API — одно. В открытом вебе с меняющейся вёрсткой — совсем другое.

Как читать заявления вендора, не веря на слово

Прежде чем закладывать агента в процесс, стоит задать поставщику несколько неудобных вопросов.

1. Какая метрика стоит за словом «работает» — точность одного ответа или доля задач, доведённых до конца без человека?
2. На какой длине цепочки замерялось? Пять шагов и двадцать шагов дают разные числа.
3. Что происходит при ошибке — агент откатывается, зовёт человека или молча продолжает?
4. Сколько стоит один запуск в деньгах и в секундах на реальной нагрузке, а не на демо-задаче?
5. Можно ли получить доступ к сырым логам пилота, а не к отобранным успешным прогонам?

Кому это пригодится и кому нет

Агенты уже приносят пользу — но не везде одинаково.

Где заходит хорошо:

• Черновая работа под контролем человека: агент готовит проект ответа, письма, патча, а человек проверяет и отправляет. Ошибка ловится до последствий.
• Задачи в закрытой предсказуемой среде: разбор тикетов по шаблону, заполнение форм по чётким правилам внутри одной системы.
• Обратимые действия: сгенерировать, отсортировать, предложить — там, где неверный результат легко откатить.

Где рано отдавать без присмотра:

• Необратимые действия с деньгами: платежи, покупки, отправка средств. Одна ошибка в цепочке стоит реальных денег.
• Юридически или репутационно значимые действия от лица компании без проверки человеком.
• Длинные цепочки в открытом вебе, где вёрстка и поведение сайтов непредсказуемы.

Практический вывод: держите человека в контуре там, где ошибка необратима, и убирайте — только там, где вы измерили надёжность на своих задачах и посчитали цену редкой ошибки. Не по демо-ролику вендора, а по своему пилоту с сырыми логами.

¹ Агент — ИИ-система, которая по заданной цели сама планирует последовательность шагов, вызывает внешние инструменты и решает, когда остановиться, в отличие от чат-бота, который просто отвечает на реплику.

² Контекстное окно — объём текста (в токенах), который модель может держать «в поле зрения» за один запрос. Чем длиннее цепочка действий агента, тем больше окно расходуется и тем дороже вызов.