«Агентное сознание» у ИИ: разбор мифа без хайпа

За 2024–2025 годы слово «агент» стало главным маркетинговым словом в мире ИИ. OpenAI выпустила Operator и режим агента в ChatGPT, Anthropic — Claude с управлением компьютером (Computer Use), Google встроил агентные функции в Gemini. На волне запусков в комментариях и в прессе всё чаще всплывает связка «агент — значит, у него есть намерения — значит, зачатки сознания». Это подмена. Агент в терминологии разработчиков ИИ — это архитектурный приём, а не свойство психики. Разберём, откуда взялась путаница и что на самом деле умеют такие системы.

Что называют агентом на самом деле

Агент^* в контексте больших языковых моделей — это связка из модели, набора инструментов (поиск, браузер, вызов кода, доступ к API) и цикла, в котором модель планирует шаги, выполняет их и корректирует план по результату. Ключевое отличие от обычного чат-ответа — не разовая генерация текста, а несколько итераций «подумал — сделал — посмотрел, что вышло — сделал дальше».

Технически под капотом всё те же операции: предсказание следующего токена и вызовы функций по формату, который задал разработчик. Модель не «хочет» открыть браузер. Она выдаёт структурированный вывод, который внешний код интерпретирует как команду открыть браузер, а результат возвращает обратно в контекстное окно^** следующим сообщением.

Автономность агента — это про длину цепочки действий, а не про наличие субъекта, который эти действия переживает.

Почему кажется, что там «кто-то есть»

Ощущение присутствия создаёт сам формат. Когда система пишет «сейчас я проверю расписание, потом сравню цены», она использует язык от первого лица и описывает намерения. Это результат обучения на текстах, где люди именно так и рассуждают вслух. Модель воспроизводит форму рассуждения, потому что такая форма статистически ведёт к более точным ответам в задачах на несколько шагов. Внутреннего наблюдателя за этими словами нет — есть текст, который выглядит как след размышления.

Что говорит наука о сознании и почему её сложно применить

Проблема в том, что у сознания нет единого operational-определения, на которое можно навести измеритель. В когнитивной науке конкурируют разные теории — глобального рабочего пространства, интегрированной информации и другие. Ни одна из них не даёт простого теста «есть сознание — нет сознания», который можно прогнать на нейросети и получить однозначный результат.

Поэтому корректный ответ на вопрос «есть ли у агента сознание» звучит скучно: нет никаких эмпирических данных, которые бы это подтверждали, и нет общепринятого метода, которым это можно было бы проверить. Утверждения в обе стороны — и «сознание уже есть», и «его точно никогда не будет» — выходят за пределы того, что сейчас можно измерить. Всё, что мы наблюдаем, — это поведение на выходе.

Три признака, которые часто путают с сознанием

• Целенаправленность. Агент доводит задачу до результата через несколько шагов. Но цель задал пользователь или разработчик в промпте, а не сама система «изнутри».
• Рефлексия. Модель может «проверить свой ответ» и найти ошибку. Это ещё один проход генерации с инструкцией на самопроверку, а не переживание сомнения.
• Память. Появление долговременной памяти (ChatGPT запоминает факты между сессиями) выглядит как непрерывная личность. На деле это внешнее хранилище, содержимое которого подмешивается в контекст. Стереть его — вопрос одной кнопки.

Как отличить реальную возможность от маркетинга

Полезное упражнение перед покупкой подписки или интеграцией: переводить обещания из языка намерений в язык операций.

Кому это пригодится и кому нет

Агентные системы уже приносят пользу в узких сценариях, где важна цепочка действий, а не творчество:

• Пригодится: разработчику для рутинного рефакторинга и прогона тестов; аналитику для сбора данных с нескольких источников по шаблону; поддержке первой линии, где сценарии повторяются; специалисту по операциям для заполнения форм и переноса данных между системами.
• Не пригодится (пока): там, где цена ошибки высока и нет проверки человеком — финансовые операции без подтверждения, юридические и медицинские решения, любые действия с необратимыми последствиями. Агент уверенно ошибается тем же тоном, что и отвечает верно.

Отдельный сценарий, где миф о сознании вреден напрямую, — это эмоциональная привязка. Если пользователь верит, что по ту сторону есть переживающий субъект, он охотнее делится чувствительными данными и хуже перепроверяет советы. Это не философский, а практический риск.

Что осталось за скобками

Вопрос машинного сознания не закрыт — он просто не имеет отношения к текущему поколению агентов. Инженеры решают задачу надёжности: как заставить цепочку из десяти шагов не разваливаться на третьем, как ограничить действия, чтобы агент не удалил лишнего. Философы обсуждают критерии субъектности. Смешивать эти два разговора удобно маркетингу и вредно всем остальным. Пока проверяемого ответа нет, честная формулировка одна: перед вами инструмент, который хорошо имитирует рассуждение, и относиться к нему стоит как к инструменту.

^* Агент — программная система, в которой языковая модель в цикле планирует и выполняет действия через внешние инструменты, а не выдаёт один ответ.

^** Контекстное окно — объём текста (в токенах), который модель удерживает «в поле зрения» за один запрос. Всё, что не влезло, модель не видит.

^*** RAG (retrieval-augmented generation) — подмешивание найденных документов в запрос без изменения самой модели. Дообучение — реальное изменение весов модели на новых данных.