Недостающий слой в агентном ИИ

Большинство современных агентских систем обрабатывают контекст в основном как историю разговоров, найденные документы или результаты векторного сходства. Такой подход достаточно хорошо работает для задач, связанных с диалогами, но операционные системы требуют принципиально иного типа управления контекстом.

В реальных условиях принятие решений зависит не только от полученной информации, но и от следующих факторов:

• сущностные связи,
• организационная структура,
• временные события,
• цепочки собственности, 
• предыдущие решения,
• активные ограничения,
• и постоянно развивающееся операционное состояние [1]. 

Клиент — это не просто документ. Компания — это не просто фрагмент текста. Регуляторное событие — это не просто очередной результат поиска. Операционные системы требуют постоянно развивающейся модели состояния. Именно здесь различие между памятью и операционным контекстом становится критически важным.

Память хранит информацию. Операционный контекст поддерживает состояние системы.

На практике это означает, что система должна постоянно поддерживать и обновлять такие структуры, как сущности, отношения, цепочки временных событий, привязки политик и историю выполнения. Это одна из причин, почему подходы, основанные на графах, приобретают все большее значение в агентных системах.

Граф полезен не только для поиска информации. Он обеспечивает представление операционного состояния в режиме реального времени. Вместо того чтобы рассматривать контекст как изолированные фрагменты текста, система может анализировать связанные сущности, развивающиеся отношения, временные зависимости и пути распространения контекста. Это полностью меняет роль графа. Граф перестает быть слоем хранения и становится:

• контекстная память,
• представление оперативного состояния

• а также контекст выполнения для систем принятия решений.

  

  По мере того, как агентные системы переходят к автономной работе, это различие становится все более важным. Потому что автономное выполнение требует не только извлечения информации, но и непрерывного управления контекстным состоянием[4].

Представьте себе, что агент по урегулированию споров обрабатывает запрос на возврат платежа. Клиент утверждает, что транзакция была мошеннической. Транзакция была совершена с использованием доверенного устройства. У продавца низкий рейтинг риска. На первый взгляд, дело кажется простым. Но транзакция произошла вскоре после необычной смены пароля, клиент недавно сменил устройство, а политика банка в отношении мошенничества требует эскалации, когда в течение короткого промежутка времени появляется несколько слабых сигналов.

На данном этапе политика не может оставаться просто PDF-файлом. Она должна стать частью логической основы рассуждений.

В операционной системе агента политики не должны извлекаться только в виде текста после того, как LLM уже сформировал ответ. Они должны активно ограничивать выполнение: блокировать определенные действия, запускать эскалации, изменять пути утверждения, требовать дополнительных доказательств или предотвращать автоматическое разрешение. Эта идея тесно связана с более ранними подходами к планированию на основе политик, где выполнение постоянно формируется ограничениями, целями и условиями окружающей среды, а не изолированной логикой завершения задачи [6].

Именно здесь контекст оперативной деятельности, основанный на графах, становится критически важным.

Граф представляет состояние спора: клиент, счет, транзакция, продавец, устройство, событие сброса пароля, индикаторы мошенничества, предыдущие решения, правила политики и история выполнения. Затем политики связываются с этим графом как исполняемые ограничения, а не как изолированные документы. Во многом это напоминает эволюцию многоагентных сред выполнения, где интеллектуальные сущности координируют свои действия посредством постоянно совместно используемого операционного состояния, а не посредством изолированного обмена сообщениями [4].

Слой рассуждений может работать над этим графом, используя основанные на правилах или логике механизмы, заимствованные из более ранних систем логического программирования и дедуктивных баз данных [8]. Например, правило, подобное правилу Datalog, может выражать необходимость эскалации спора, если спорная транзакция следует за сбросом пароля, включает новое устройство и превышает пороговое значение риска — подход, концептуально соответствующий классическим системам дедуктивного рассуждения и логическим механизмам баз данных [9].

LLM может интерпретировать случай, объяснить решение и взаимодействовать с пользователями, но само условие политики оценивается детерминистически на графе.

В этой архитектуре механизм графов становится операционной основой, в то время как слой рассуждений оценивает ограничения, обязательства, разрешения и зависимости от текущего состояния. Это разделение между вероятностным рассуждением и выполнением с ограничениями также перекликается с более ранними моделями агентов на основе BDI, где интеллектуальное поведение возникает не только из целей, но и из постоянно поддерживаемых убеждений, намерений, обязательств и ограничений выполнения (Rao & Georgeff, 1995).

Ключевой сдвиг 

Это позволяет автономному агенту по разрешению споров рассуждать не только о том, что произошло, но и о том, что разрешено, требуется, заблокировано или подлежит эскалации на каждом этапе исполнения.

Когда контекст становится постоянно меняющимся операционным состоянием, а политики — исполняемыми ограничениями, следующая задача — это само исполнение решений.

На этом этапе проблема уже не в извлечении информации. Она сводится к управлению принятием решений в режиме реального времени. Большинство современных агентных систем по-прежнему работают как системы генерации действий: извлекают контекст, анализируют его, генерируют действие, выполняют результат. Но операционные системы требуют дополнительного уровня между анализом и выполнением: конвейера принятия решений с ограничениями.

Это различие имеет решающее значение, поскольку операционная среда редко содержит одно единственное допустимое действие. Вместо этого она включает в себя:

• осуществимые действия,
• запрещенные действия,
• эскалация действий,
• отложенные действия,
• и условно разрешенные действия.

Таким образом, роль системы заключается не только в генерации действий, но и в их непрерывной фильтрации и проверке в соответствии с ограничениями, заданными в процессе выполнения. Упрощенный конвейер все чаще выглядит следующим образом: 

Это меняет роль нескольких компонентов в стеке. Граф больше не используется только для поиска. Он становится операционным состоянием системы во время выполнения. 

Политики больше не являются статичной документацией. Они становятся исполняемыми ограничениями времени выполнения, оцениваемыми в процессе принятия решений. Планировщик больше не просто упорядочивает задачи. Он становится ответственным за генерацию оперативно выполнимых действий в условиях действующих ограничений.

Это различие важно, поскольку многие операционные сбои возникают не из-за недостатка информации, а из-за неправильного выбора действий в меняющихся условиях.

Например:

• Действие может нарушать границы полномочий.
• конфликт с действующим правилом соответствия,
• запустить недопустимую последовательность процессов.
• или создать операционный риск в последующих производственных процессах.

В таких случаях проблема заключается не в сбое интеллекта, а в нарушении ограничений. Именно поэтому планирование с учетом ограничений становится все более важным в автономных системах.

Вместо непосредственного выполнения сгенерированных действий система должна:

• оценить целесообразность,
• удалить недействительные пути,
• применять ограничения времени выполнения,
• выявлять конфликты,
• и при необходимости генерировать альтернативные пути выполнения.

В концептуальном плане это приближает современные агентные системы к классическим системам планирования больше, чем традиционные архитектуры разговорного ИИ.

Подходы, такие как:

• ГрафПлан,
• системы удовлетворения ограничений,
• эвристический поиск
• Варианты A*,
• и алгоритмы динамического перепланирования

вновь стать актуальными, когда системы начнут работать в условиях постоянно меняющейся среды выполнения.

Однако, в отличие от классических систем планирования, современные операционные системы также содержат вероятностную семантическую интерпретацию, неструктурированные входные данные, развивающийся контекст графа и динамически изменяющиеся политики.

В результате формирующаяся архитектура не является ни чисто символической, ни чисто вероятностной. Она становится гибридной моделью выполнения, где LLM-ы интерпретируют данные, графы поддерживают операционное состояние, ограничения определяют границы выполнения, а планировщики генерируют выполнимые действия в пределах этих границ.

Такое разделение важно, поскольку оно позволяет автономным системам сохранять гибкость, не теряя при этом оперативного контроля. Цель состоит не в том, чтобы полностью отказаться от вероятностного интеллекта.

Цель состоит в том, чтобы предотвратить прямое управление выполнением операций с помощью вероятностных рассуждений без детерминированных уровней проверки.

Как только операционный контекст, исполняемые ограничения и планирование с ограничениями становятся частью самой среды выполнения, автономное выполнение перестает быть простой задачей оркестровки. Система постоянно работает в условиях изменяющегося операционного состояния: сущности развиваются, отношения меняются, ограничения активируются или истекают, а возможность выполнения меняется со временем.

В этих условиях выполнение больше не может зависеть исключительно от генерируемых результатов. Система должна постоянно переоценивать контекст, проверять ограничения, адаптировать планы и поддерживать операционную согласованность в условиях меняющейся обстановки.

Это становится еще более важным по мере того, как агентные системы переходят от кратковременных рабочих процессов к долгосрочным, целенаправленным операциям. В таких средах цели сохраняются, множество агентов взаимодействуют, организационные границы имеют значение, а пути выполнения динамически меняются во время работы.

В результате планирование перестает быть разовой задачей и становится непрерывным операционным процессом. Именно здесь основанное на графах операционное состояние, исполняемые политики и планирование с учетом ограничений начинают сходиться в новую архитектуру среды выполнения для автономных систем.

Со временем эта архитектура, вероятно, приведет к появлению нового поколения операционных артефактов:

• устойчивые цели, вдохновленные подходами к проектированию требований, ориентированными на цели, такими как KAOS [10],
• исполняемые организационные роли и обязанности, аналогичные ролево-ориентированной организационной модели Gaia для многоагентных систем [11],
• адаптивные координационные структуры, напоминающие организационные подходы MAS, такие как MOISE+ [12],
•  и организационные модели во время выполнения для многоагентных систем с длительным горизонтом, исследованные в рамках исследований организационной логики и адаптивных многоорганизационных систем [13][14].

Таким образом, следующее поколение корпоративных систем искусственного интеллекта может определяться не количеством генерируемых ими действий, а тем, насколько надежно они способны поддерживать скоординированное целенаправленное поведение в условиях постоянно меняющихся ограничений.

1. Хоган, А., Бломквист, Э., Кошез, М. и др. Графы знаний. Обзоры вычислительной техники ACM, 2021.

2. Эдж, Д. и др. От локального к глобальному: подход GraphRAG к суммаризации, ориентированной на запрос. arXiv, 2024.

3. Nii, HP. Модель решения задач с помощью доски и эволюция архитектур досок. Журнал AI, 1986.

4. Вулдридж, М. Введение в многоагентные системы. Wiley, 2009.

5. Фербер, Дж. Многоагентные системы: Введение в распределенный искусственный интеллект. Аддисон-Уэсли, 1999.

6. Майерс, К.Л. К созданию основы для непрерывного планирования и выполнения. AAAI, 1999.

7. Рао, А.С., Джорджефф, М.П. Агенты BDI: от теории к практике. ICMAS, 1995.

8. Ceri, S., Gottlob, G., Tanca, L. Логическое программирование и базы данных. Springer, 1990.

9. Абитебул, С., Халл, Р., Виану, В. Основы баз данных. Аддисон-Уэсли, 1995.

[10]. ван Ламсверде, А. (2001). Целеориентированное проектирование требований: путеводитель.

[11] Вулдридж, М., Дженнингс, Н. Р., и Кинни, Д. (2000). Методология Gaia для агентно-ориентированного анализа и проектирования.

[12] Ханнун М., Сичман Дж.С., Буасье О. и Сайеттат К. (2000). MOISE: Организационная модель для многоагентных систем.

[14] Дигнум, В., и Дигнум, Ф. (2018). Роль организационных моделей в агентских системах.

[15] Тамерсой, М., Экинчи, Э.Э., Эрдур, Р.К., и Дикенелли, О. (2017). Модель требований для адаптивных многоорганизационных систем. SASO 2017.