Открытый и закрытый reasoning: что видно в агентах и что скрыто

Модели с рассуждением (reasoning) генерируют промежуточные шаги перед финальным ответом — так называемую цепочку рассуждений, chain-of-thought. С выходом OpenAI o1 в конце 2024 года и линейки o3 в 2025-м рынок разделился на два подхода. Одни вендоры отдают эту цепочку разработчику целиком, другие показывают только короткую выжимку, а сами рассуждения держат в закрытом виде. Если вы собираете агента поверх этих API, разница влияет на три вещи сразу: сколько вы платите, как отлаживаете сбои и что можете показать в аудите.

Что такое reasoning-токены и почему из-за них спор

Reasoning-модель тратит токены дважды: сначала на внутренние рассуждения, потом на видимый ответ. У o1 и o3 эти внутренние токены (reasoning tokens¹) тарифицируются как обычные выходные, но их содержимого вы в API OpenAI не видите — приходит только итоговый ответ и, при запросе, короткое резюме хода мысли.

DeepSeek с моделью R1 и Anthropic с режимом extended thinking у Claude пошли иначе: полная или почти полная цепочка возвращается в ответе. Вы читаете, как модель перебирала варианты, где ошиблась и почему выбрала конкретный путь.

Скрытая цепочка рассуждений — это чёрный ящик, за содержимое которого вы платите по счётчику, но заглянуть внутрь не можете. Для агента, который принимает решения за пользователя, это не мелочь.

Почему OpenAI прячет цепочку

Компания объясняла закрытость двумя причинами: защита от копирования обучающих данных конкурентами (по сырой цепочке можно дистиллировать модель) и свобода модели рассуждать без цензуры, которую пришлось бы применять к видимому пользователю тексту. Аргумент спорный: разработчики теряют главный инструмент отладки — возможность увидеть, где логика свернула не туда.

Три сценария, где разница видна в деньгах и нервах

• Отладка агента. Когда агент выдал неверное действие — вызвал не тот инструмент, придумал несуществующий параметр — открытая цепочка показывает момент ошибки. С закрытой вы видите только результат и гадаете по резюме.
• Стоимость. Reasoning-токены на сложной задаче могут в разы превышать объём финального ответа. Вы платите за них в обоих подходах, но при закрытом видите лишь агрегированную цифру в поле usage, без понимания, на что ушёл бюджет.
• Аудит и комплаенс. В регулируемых областях от системы иногда требуют объяснимость. Открытая цепочка — сырьё для такого объяснения, хотя и не гарантия: модель может рассуждать одно, а ответить другое.

Важная оговорка про «честность» цепочки

Цепочку рассуждений нельзя читать как протокол реального мышления модели. Исследования Anthropic по faithfulness (верности рассуждений) показывали, что модель порой приходит к ответу одним путём, а в видимой цепочке описывает другой — то есть текст рассуждения не всегда объясняет, почему получился именно такой вывод. Открытый reasoning помогает в отладке, но не превращает модель в прозрачную.

Сравнение подходов

Конкретные цены на reasoning-токены и лимиты у вендоров меняются часто — актуальные цифры сверяйте на страницах прайсинга OpenAI, Anthropic и DeepSeek, а не по этой таблице.

Как выбирать под свою задачу

1. Оцените, нужна ли вам цепочка вообще. Для простой генерации текста reasoning-модель — переплата. Она оправдана на задачах с многошаговой логикой: код, планирование, математика, разбор длинных цепочек условий.
2. Если строите агента с инструментами — открытая цепочка резко ускоряет разбор инцидентов. Заложите её как критерий выбора модели.
3. Если данные чувствительны или конкуренты агрессивны — закрытый reasoning снижает риск утечки логики через сырьё рассуждений.
4. Считайте бюджет по реальным прогонам. Возьмите десяток типичных запросов, замерьте поле usage и посмотрите долю reasoning-токенов. На сложных промптах она способна съесть основную часть счёта.
5. Не полагайтесь на цепочку как на юридическое объяснение. Для комплаенса стройте отдельный слой логирования действий агента, а reasoning используйте как вспомогательный, а не единственный источник.

Что это меняет для рынка

Разделение на открытый и закрытый reasoning стало новой осью конкуренции. DeepSeek сделал открытость аргументом продаж и давления на цены. OpenAI держит закрытость как защиту модели и данных. Anthropic балансирует: показывает extended thinking, но с оговорками про его неполноту. Для разработчика это значит, что выбор модели теперь — не только про качество ответа и цену за миллион токенов, но и про то, увидите ли вы, как агент пришёл к решению, когда он ошибётся в проде.

¹ Reasoning-токены — внутренние токены, которые модель тратит на промежуточные рассуждения перед финальным ответом. В API они обычно учитываются в счёте как выходные, но их текст при закрытом подходе пользователю не возвращается.