Символьный ИИ против нейросимвольных агентов: спор о будущем

Языковая модель уверенно сообщает, что дважды два равно пяти, если её достаточно настойчиво об этом попросить. Символьная система на базе логики никогда так не ошибётся — она просто откажется отвечать на вопрос, для которого у неё нет правила. Между этими двумя крайностями и разворачивается спор, который в 2023–2024 годах вернулся в повестку: нужен ли ИИ явный символьный слой поверх нейросетей или трансформеры сами всему научатся по мере роста.

Что такое символьный ИИ и почему его считали мёртвым

Символьный ИИ (его ещё называют GOFAI — Good Old-Fashioned AI) работает с явными правилами и знаниями. Факты представлены как символы, вывод строится через логику: «если у пациента температура выше 38 и есть кашель, то предположить ОРВИ». Экспертные системы 1980-х, языки вроде Prolog, базы знаний — всё это символьная парадигма.

Её сильная сторона — прозрачность. Каждый вывод можно проследить до конкретного правила. Слабая — хрупкость. Правила пишут люди, и любая ситуация вне заранее описанных условий ломает систему. Составить исчерпывающий набор правил для распознавания кошки на фото невозможно, а нейросеть учится этому на примерах сама.

Именно поэтому с 2012 года, после успеха глубокого обучения, символьный подход отошёл на второй план. Но у нейросетей обнаружились свои системные слабости, которые ростом параметров не лечатся.

Где ломаются чистые нейросети

Большие языковые модели статистически предсказывают следующий токен. Отсюда три проблемы, знакомые каждому, кто внедрял их в продакшн:

• Галлюцинации. Модель выдаёт правдоподобный, но ложный факт с той же уверенностью, что и правду. Отличить одно от другого по самому ответу нельзя.
• Непрозрачность. Нельзя показать регулятору или пользователю цепочку рассуждений, которую можно проверить и оспорить. Веса модели этого не дают.
• Слабость в строгой логике и арифметике. Многошаговые вычисления и формальный вывод даются моделям плохо без внешних инструментов.

Для чат-бота, который пишет черновики писем, это терпимо. Для системы, принимающей решения о кредите, дозировке лекарства или юридической квалификации, — нет.

Нейросимвольный подход: попытка соединить

Нейросимвольный ИI (neuro-symbolic AI) не выбирает сторону, а разделяет обязанности. Нейросеть отвечает за восприятие и работу с неструктурированными данными: понять текст, распознать изображение, извлечь сущности. Символьный движок отвечает за строгий вывод, проверку ограничений и объяснимость.

Нейросеть хороша в интуиции, логика хороша в дисциплине. Проблема прошлых двадцати лет была в том, что их пытались противопоставить, а не поставить в конвейер.

На практике архитектуры различаются тем, кто кого вызывает. Иногда нейросеть переводит запрос в формальное представление, которое дальше обрабатывает логический решатель. Иногда символьные правила ограничивают пространство ответов нейросети. В агентных системах граница проходит ещё интереснее.

Как это выглядит в агентах

Агент на LLM — это модель, которая планирует действия и вызывает внешние инструменты: калькулятор, поиск, базу данных, исполнитель кода. Здесь символьная часть встраивается естественно.

Классический пример: вместо того чтобы просить модель посчитать сложный процент в уме, агент генерирует вызов калькулятора и получает точный результат. Арифметику делает детерминированный символьный инструмент, а язык и планирование остаются за нейросетью. То же с SQL-запросами, с проверкой ответа по базе знаний, с валидацией через набор бизнес-правил.

Сравнение трёх подходов

Цена вопроса

Нейросимвольные системы не бесплатны. Вы поддерживаете два разных стека: модель и её инфраструктуру плюс символьный слой — базу правил, онтологию или решатель. Это дороже в разработке и требует людей с разными навыками. Инженер по машинному обучению и специалист по формализации знаний — разные роли, и найти обоих сложнее, чем одного.

Взамен вы получаете то, за что в регулируемых отраслях платят: проверяемость. Если решение о выдаче кредита нужно обосновать в терминах явных правил, чистая нейросеть здесь неприменима юридически, а не только технически.

Кому стоит смотреть в эту сторону

1. Задачи, где нужна объяснимость по требованию регулятора: финансы, медицина, право.
2. Задачи с жёсткими ограничениями, которые нельзя нарушать: расписания, конфигурации, соответствие политикам.
3. Домены с ценной формализованной базой знаний, которую жалко выбрасывать.

Если же задача — генерация текста без строгих гарантий, символьный слой скорее усложнит, чем поможет.

Спор «символьный против нейросетевого» в чистом виде уже устарел. Вопрос переформулирован: не какой подход победит, а где провести границу между интуицией модели и дисциплиной логики в конкретной системе. Агентные архитектуры сделали эту границу подвижной и настраиваемой — и в этом их главная практическая ценность.