Открытые или закрытые модели для агентов: что выбрать бизнесу в России

Компания хочет посадить агента¹ на обработку заявок, разбор договоров или поддержку клиентов. Первый вопрос, который встаёт после «а зачем нам это», — на какой модели строить. Выбор сводится к двум лагерям: закрытые модели через API (OpenAI, Anthropic, Google, российские GigaChat и YandexGPT) и открытые веса, которые можно развернуть на своём железе (Qwen, Llama, DeepSeek, Mistral). Разница не только в деньгах — она в том, где лежат ваши данные, кто отвечает за доступность сервиса и насколько вы привязаны к одному поставщику.

Что вообще значит «открытая» и «закрытая» модель

Закрытая модель — это сервис. Вы платите за токены², отправляете запрос в облако провайдера и получаете ответ. Веса модели вам не принадлежат, дообучить её под себя можно только в рамках того, что разрешает провайдер. Примеры: GPT-4o и o-серия у OpenAI, Claude у Anthropic, Gemini у Google, а из российских — GigaChat (Сбер) и YandexGPT.

Открытая модель — это файл с весами, который вы скачиваете и запускаете сами: на своём сервере, в арендованном GPU-облаке или на площадке вроде Yandex Cloud. Никто не видит ваши запросы, кроме вас. Но и инфраструктуру, обновления и защиту вы обеспечиваете тоже сами. Сюда относятся Qwen (Alibaba), Llama (Meta³), DeepSeek, Mistral, а также российские открытые сборки.

Термин «открытая» здесь условный: у большинства таких моделей открыты веса, но не обучающие данные и не код обучения. Это скорее «open weights», чем полноценный open source.

Реальные ограничения именно для российского бизнеса

Абстрактное сравнение «облако против своих серверов» для компании в России искажается тремя факторами.

• Доступ к зарубежным API. Прямая оплата OpenAI, Anthropic и Google с российских карт и юрлиц ограничена. На практике доступ строят через зарубежные юрлица, посредников или реселлеров — это добавляет юридических и валютных рисков и усложняет бухгалтерию.
• Персональные данные. Если агент работает с ПДн клиентов, отправка их в зарубежное облако требует оценки на соответствие 152-ФЗ. Точную применимость и порядок трансграничной передачи в вашем случае стоит проверять с профильным юристом, а не по аналогии.
• Стабильность. Внешний API может стать недоступен по причинам, на которые вы не влияете. Для процесса, встроенного в продажи или поддержку, это простой бизнеса, а не техническая неприятность.

Российские провайдеры (GigaChat, YandexGPT) снимают часть этих вопросов — оплата в рублях, серверы в РФ, договор с местным юрлицом. Но по качеству на сложных агентских задачах они пока обычно уступают топовым закрытым моделям, а стоимость и лимиты стоит смотреть на актуальных страницах тарифов.

Сравнение подходов

Цифры по ценам и лимитам намеренно не приводим: тарифы всех провайдеров меняются несколько раз в год, и любое конкретное число здесь устареет к моменту, когда вы его прочтёте. Сверяйтесь с прайсом на дату закупки.

Где деньги: не токены, а совокупная стоимость

Соблазн выбрать открытую модель ради «бесплатности весов» рушится о железо. Чтобы крупная открытая модель отвечала быстро и параллельно многим пользователям, нужны GPU уровня дата-центра, а они либо покупаются за существенные деньги, либо арендуются помесячно. Добавьте зарплату инженеров, которые это поддерживают.

API, наоборот, дешёв на старте и при малых объёмах, но при высокой нагрузке счёт за токены растёт линейно и может обогнать стоимость собственного железа.

Правило простое: маленький объём и быстрый запуск — берите API. Большой стабильный поток запросов, чувствительные данные или требование работать без внешней зависимости — считайте свою инфраструктуру. Точка перелома у каждого своя, и её надо посчитать, а не угадать.

Кому что подходит

Закрытый API стоит брать, если

• Вы проверяете гипотезу и хотите запуститься за неделю, а не за квартал.
• Задача требует максимального качества рассуждений — сложный разбор документов, многошаговое планирование.
• Объём запросов небольшой или скачет, и держать GPU под простой невыгодно.
• Данные не содержат персональных или коммерчески критичных сведений, либо вы работаете через российского провайдера.

Открытые веса стоит брать, если

• Агент обрабатывает персональные данные или коммерческую тайну, которые нельзя выпускать за периметр.
• Поток запросов стабильно высокий — собственное железо окупается.
• Нужна независимость от одного поставщика и защита от внезапного отключения.
• Задача узкая и повторяемая — тут небольшая дообученная открытая модель часто не уступает большому API за долю стоимости.

Гибрид — чаще всего разумнее крайностей

Многие компании держат открытую модель на массовых типовых запросах, а к дорогому API обращаются только когда открытая не справляется. Так вы платите за качество топовой модели лишь в тех случаях, где оно реально нужно, и не гоняете чувствительные данные наружу без необходимости.

С чего начать выбор

1. Опишите задачу агента и оцените ожидаемый объём запросов в месяц.
2. Проверьте, есть ли в данных персональные или коммерчески чувствительные сведения — от этого зависит, можно ли вообще использовать зарубежное облако.
3. Соберите прототип на дешёвом API, чтобы понять, какое качество модели вам вообще нужно.
4. Посчитайте стоимость того же объёма на своей инфраструктуре и сравните.
5. Заложите план Б на случай отключения основного провайдера — резервную модель или второго поставщика.

¹ Агент — программа на основе языковой модели, которая не просто отвечает на вопрос, а выполняет цепочку действий: вызывает инструменты, обращается к базам, планирует шаги для достижения цели.

² Токен — единица текста (примерно часть слова), которой оперирует модель. Оплата API считается за входные и выходные токены.

³ Meta признана в России экстремистской организацией и запрещена. Модель Llama при этом распространяется как открытые веса.