智能体人工智能中缺失的一层

目前大多数智能体系统主要将上下文视为对话历史、检索到的文档或向量相似度结果。这种方法对于对话任务来说效果尚可，但操作型系统需要一种截然不同的上下文管理方式。

在现实环境中，决策不仅取决于获取的信息，还取决于：

• 实体关系
• 组织结构，
• 时间事件，
• 所有权链 
• 之前的决定，
• 主动约束，
• 以及不断演变的运行状态[1]。 

客户不仅仅是一份文档，公司不仅仅是一段文本，监管事件也不仅仅是另一个检索结果。运营系统需要一个不断演进的状态模型。正因如此，区分内存和运营上下文才显得至关重要。

内存存储信息。操作上下文维护系统状态。

实际上，这意味着系统必须持续维护和更新实体、关系、时间事件链、策略绑定和执行历史等结构。这也是基于图的方法在智能体系统中日益重要的原因之一。

图不仅用于检索，它还能提供运行时状态的表示。系统不再将上下文视为孤立的文本片段，而是可以对相互连接的实体、不断演变的关系、时间依赖性和上下文传播路径进行推理。这彻底改变了图的角色。图不再仅仅是存储层，而是：

• 情境记忆，
• 运行状态表示，

• 以及决策系统的执行环境。

  

  随着智能体系统向自主运行方向发展，这种区别变得越来越重要。因为自主执行不仅需要信息检索，还需要持续的上下文状态管理[4]。

想象一下，一位争议处理专员正在处理一起拒付申请。客户声称某笔交易存在欺诈行为。该交易是通过受信任的设备进行的。商户的风险评分较低。表面上看，这起案件似乎很简单。但实际上，这笔交易发生在客户不寻常的密码重置之后不久，而且客户近期更换了设备，银行的欺诈政策规定，当短时间内出现多个可疑信号时，必须升级处理。

此时，政策文件不能再仅仅以PDF格式存在，而必须成为论证基础的一部分。

在运行代理系统中，策略不应仅仅在逻辑逻辑模型（LLM）生成答案后才以文本形式获取。它们必须主动约束执行：阻止某些操作、触发升级、更改审批路径、要求提供额外证据或阻止自动解决。这一理念与早期的基于策略的规划方法密切相关，在这些方法中，执行过程持续受到约束、目标和环境条件的影响，而不是孤立的任务完成逻辑[6]。

正是基于图的操作上下文在这里变得至关重要。

该图表示争议状态：客户、账户、交易、商户、设备、密码重置事件、欺诈指标、先前决策、策略规则和执行历史。策略作为可执行约束而非孤立文档连接到该图。在许多方面，这类似于多智能体执行环境的演进，其中智能实体通过持续共享的运行状态进行协调，而不是通过孤立的消息交换[4]。

推理层可以利用源自早期逻辑编程和演绎数据库系统的基于规则或逻辑的机制对该图进行操作[8]。例如，类似Datalog的规则可以表示，如果争议交易发生在密码重置之后、涉及新设备且超过风险阈值，则必须将争议升级——这种方法在概念上与经典的演绎推理系统和数据库逻辑引擎相一致[9]。

LLM 可以解释案例、解释决策并与用户互动，但策略条件本身是在图上确定性地评估的。

在这种架构中，图引擎成为操作底层，而推理层则评估当前状态下的约束、义务、权限和依赖关系。这种概率推理与约束执行之间的分离也与早期基于 BDI 的智能体模型相呼应，在这些模型中，智能行为不仅源于目标，还源于持续维护的信念、意图、义务和执行约束（Rao & Georgeff，1995）。

关键转变 

这使得自主争议代理不仅可以对发生的事情进行推理，还可以对执行的每个步骤中允许的、需要的、阻止的或升级的事项进行推理。

一旦上下文成为不断演变的运行状态，策略成为可执行的约束，下一个挑战就是决策执行本身。

现阶段，问题不再是信息检索，而是运行时决策控制。目前大多数智能体系统仍然作为动作生成系统运行：检索上下文、进行推理、生成动作、执行结果。但运行型系统需要在推理和执行之间增加一个额外的层：一个受限的决策管道。

这种区别至关重要，因为运行环境很少只包含一个有效的操作。相反，它们通常包含：

• 可行行动，
• 禁止的行为
• 升级行动，
• 行动迟缓，
• 以及有条件允许的行为。

因此，该系统的作用不仅在于生成操作，还在于根据运行时约束持续地过滤和验证这些操作。一个简化的流程通常如下所示： 

这改变了堆栈中几个组件的角色。该图不再仅用于检索，而是成为系统的运行时运行状态。 

策略不再是静态文档，而是在决策生成过程中评估的可执行运行时约束。规划器不再仅仅是任务排序，而是负责在动态约束下生成可操作的行动方案。

这种区别至关重要，因为许多操作失误并非源于信息缺失，而是源于在不断变化的情况下选择了错误的操作。

例如：

• 某种行为可能侵犯了权限范围。
• 与现行合规规则相冲突，
• 触发无效的处理序列
• 或造成下游运营风险。

在这些情况下，问题不在于智能故障，而在于约束故障。这就是为什么约束规划在自主系统中变得越来越重要。

系统不能直接执行生成的操作，而必须：

• 评估可行性，
• 删除无效路径
• 应用运行时约束，
• 检测冲突，
• 并在必要时生成备用执行路径。

从概念上讲，这使得现代智能体系统比传统的对话式人工智能架构更接近经典的规划系统。

例如：

• GraphPlan，
• 约束满足系统
• 启发式搜索
• A*变体，
• 以及动态重规划算法

当系统在不断变化的运行时条件下运行时，这一点就再次变得重要了。

然而，与经典规划器不同，现代操作系统还包含概率语义解释、非结构化输入、不断演变的图上下文和动态变化的策略。

因此，新出现的架构既非纯粹的符号模型，也非纯粹的概率模型。它成为一种混合执行模型，其中逻辑逻辑模型（LLM）负责解释指令，图模型负责维护运行状态，约束条件定义执行边界，规划器则在这些边界内生成可行的行动方案。

这种分离至关重要，因为它使自主系统能够在保持灵活性的同时，又不丧失运行控制权。其目标并非消除概率智能。

目标是防止概率推理在没有确定性验证层的情况下直接控制操作执行。

一旦运行上下文、可执行约束和约束规划成为运行时本身的一部分，自主执行就不再是一个简单的编排问题。系统持续在不断变化的运行状态下运行：实体演化、关系变化、约束激活或失效，执行可行性也随时间推移而改变。

在这种情况下，执行不再仅仅依赖于生成的输出。系统必须持续重新评估上下文，验证约束条件，调整计划，并在不断变化的环境中保持运行的一致性。

随着代理系统从短暂的工作流转向长时间运行、目标驱动的操作，这一点变得尤为重要。在这些环境中，目标持续存在，多个代理相互交互，组织边界至关重要，执行路径在运行时动态演变。

因此，规划不再是一次性任务，而成为一个持续的运行过程。正是在此基础上，基于图的运行状态、可执行策略和约束感知规划开始融合，形成一种新的自主系统运行时架构。

随着时间的推移，这种架构很可能会引入新一代的操作组件：

• 受目标导向需求工程方法（例如 KAOS [10]）启发而设定的持久目标，
• 可执行的组织角色和职责类似于 Gaia 为多智能体系统设计的角色导向型组织模型 [11]，
• 类似于 MOISE+ 等组织 MAS 方法的自适应协调结构[12]
•  以及组织逻辑和自适应多组织系统研究中探索的长时程多智能体系统的运行时组织模式[13][14]。

因此，下一代企业人工智能系统的定义可能不是取决于它们能够生成多少行动，而是取决于它们在不断变化的约束条件下，能够多可靠地维持协调一致的目标导向行为。

1. Hogan, A., Blomqvist, E., Cochez, M., 等.知识图谱. ACM 计算调查, 2021。

2. Edge, D. 等人。从局部到全局：一种基于 GraphRAG 的查询聚焦摘要方法。arXiv，2024 年。

3. Nii, HP，《黑板问题解决模型及黑板架构的演变》，AI杂志，1986年。

4. Wooldridge, M. 多智能体系统导论。Wiley，2009。

5. Ferber, J. 多智能体系统：分布式人工智能导论。Addison-Wesley，1999。

6. Myers, KL.迈向持续规划与执行框架。AAAI，1999。

7. Rao, AS, Georgeff, MP BDI Agents: From Theory to Practice. ICMAS, 1995.

8. Ceri, S., Gottlob, G., Tanca, L. 逻辑程序设计和数据库。Springer，1990。

9. Abiteboul, S., Hull, R., Vianu, V. 数据库基础。Addison-Wesley，1995。

[10]. van Lamsweerde, A. (2001). 目标导向的需求工程：导览。

[11] Wooldridge, M.、Jennings, NR 和 Kinny, D. (2000)。面向代理的分析和设计的 Gaia 方法。

[12] Hannoun, M.、Sichman, JS、Boissier, O. 和 Sayettat, C. (2000)。 MOISE：多代理系统的组织模型。

[14] Dignum, V., & Dignum, F. (2018). 组织模型在代理系统中的作用。

[15] Tamersoy, M., Ekinci, EE, Erdur, RC, & Dikenelli, O. (2017). 自适应多组织系统的需求模型。SASO 2017。