エージェント型AIにおける欠落したレイヤー

現在のほとんどのエージェントシステムは、コンテキストを主に会話履歴、取得された文書、またはベクトル類似性の結果として扱います。このアプローチは会話タスクには適していますが、運用システムでは根本的に異なるタイプのコンテキスト管理が必要です。

実際の環境では、意思決定は取得した情報だけでなく、以下の要素にも依存します。

• エンティティ関係、
• 組織構造、
• 時間的な出来事、
• 所有権の連鎖、 
• 過去の決定、
• アクティブな制約、
• そして、絶えず進化する運用状態[1]。 

顧客は単なる文書ではありません。企業は単なるテキストの塊ではありません。規制関連の出来事は、単なる検索結果ではありません。運用システムには、常に進化し続ける状態モデルが必要です。ここで、メモリと運用コンテキストの区別が極めて重要になります。

メモリは情報を格納する。運用コンテキストはシステムの状態を維持する。

実際には、これはシステムがエンティティ、関係、時間的イベントチェーン、ポリシーバインディング、実行履歴などの構造を継続的に維持および更新する必要があることを意味します。これが、グラフベースのアプローチがエージェントシステムにおいてますます重要になっている理由の1つです。

グラフは検索に役立つだけでなく、運用状態の実行時表現も提供します。システムはコンテキストを孤立したテキスト断片として扱うのではなく、接続されたエンティティ、変化する関係、時間的依存関係、およびコンテキストの伝播パスに基づいて推論できます。これにより、グラフの役割は完全に変わります。グラフはストレージ層ではなくなり、次のようになります。

• 文脈記憶、
• 運用状態表現、

• そして、意思決定システムのための実行コンテキスト。

  

  エージェントシステムが自律的な運用へと移行するにつれて、この区別はますます重要になってきます。自律的な実行には、情報検索だけでなく、継続的なコンテキスト状態管理も必要となるからです[4]。

チャージバック請求を処理する紛争解決担当者を想像してみてください。顧客は取引が不正だったと主張しています。取引は信頼できるデバイスから行われました。加盟店のリスクスコアは低いです。表面上は単純なケースに見えます。しかし、この取引は異常なパスワードリセットの直後に発生し、顧客は最近デバイスを変更しており、銀行の不正対策ポリシーでは、短時間のうちに複数の弱い兆候が同時に現れた場合、エスカレーションする必要があるのです。

この段階では、政策はPDFのままではいられない。それは論理的基盤の一部となる必要がある。

運用エージェントシステムでは、LLMが既に回答を生成した後にポリシーをテキストとして取得するだけではいけません。ポリシーは、特定のアクションをブロックしたり、エスカレーションをトリガーしたり、承認パスを変更したり、追加の証拠を要求したり、自動解決を防止したりするなど、実行を積極的に制約する必要があります。この考え方は、実行が孤立したタスク完了ロジックではなく、制約、目標、および環境条件によって継続的に形成される以前のポリシーベースの計画アプローチと密接に関連しています[6]。

ここで、グラフベースの運用コンテキストが非常に重要になる。

このグラフは、顧客、アカウント、トランザクション、加盟店、デバイス、パスワードリセットイベント、不正指標、過去の決定、ポリシー規則、実行履歴といった紛争状態を表します。ポリシーは、独立した文書としてではなく、実行可能な制約としてこのグラフに接続されます。多くの点で、これはマルチエージェント実行環境の進化に似ています。マルチエージェント実行環境では、インテリジェントなエンティティが、独立したメッセージ交換ではなく、継続的に共有される運用状態を通じて連携します[4]。

推論レイヤーは、以前の論理プログラミングや演繹データベースシステムから派生したルールベースまたは論理ベースのメカニズムを使用して、このグラフ上で動作できます[8]。たとえば、Datalogのようなルールでは、紛争のあるトランザクションがパスワードのリセット後に発生し、新しいデバイスが関与し、リスクしきい値を超えている場合に、紛争をエスカレーションする必要があることを表現できます。これは、古典的な演繹推論システムやデータベース論理エンジンと概念的に整合したアプローチです[9]。

LLMは事例を解釈し、決定を説明し、ユーザーとやり取りするかもしれないが、政策条件自体はグラフ上で決定論的に評価される。

このアーキテクチャでは、グラフエンジンが動作基盤となり、推論層が現在の状態に対する制約、義務、許可、および依存関係を評価します。確率的推論と制約付き実行のこの分離は、以前のBDIベースのエージェントモデルにも反映されています。そこでは、インテリジェントな動作は目標だけでなく、継続的に維持される信念、意図、義務、および実行制約からも生じます（Rao & Georgeff、1995）。

重要な変化 

これにより、自律的な紛争解決エージェントは、何が起こったかだけでなく、実行の各段階で何が許可され、何が要求され、何が阻止され、何がエスカレートされるかについても推論することができる。

状況が絶えず変化する運用状態となり、ポリシーが実行可能な制約となると、次の課題は意思決定の実行そのものとなる。

この段階になると、問題はもはや情報の検索ではなく、実行時の意思決定制御になります。現在のほとんどのエージェントシステムは、依然としてアクション生成システムとして動作します。つまり、コンテキストを取得し、それに基づいて推論を行い、アクションを生成し、結果を実行します。しかし、運用システムでは、推論と実行の間に制約付き意思決定パイプラインという追加のレイヤーが必要です。

この区別は非常に重要です。なぜなら、運用環境には有効なアクションが1つだけ含まれていることはほとんどなく、むしろ以下のようなものが含まれるからです。

• 実行可能な行動、
• 禁止行為、
• エスカレートした行動、
• 遅延した行動、
• そして、条件付きで許可された行為。

したがって、システムの役割はアクションを生成するだけでなく、実行時の制約の下でそれらを継続的にフィルタリングおよび検証することです。簡略化されたパイプラインは、ますます次のようなものになっています。 

これにより、スタック内のいくつかのコンポーネントの役割が変わります。グラフはもはや情報取得のためだけに使われるのではなく、システムの実行時における動作状態を表すものとなります。 

ポリシーはもはや静的な文書ではなく、意思決定生成時に評価される実行可能な実行時制約となる。プランナーはもはや単にタスクの順序付けを行うだけではなく、アクティブな制約の下で運用上実行可能なアクションを生成する責任を負うことになる。

この区別は重要である。なぜなら、多くの運用上の失敗は情報不足に起因するのではなく、変化する状況下での不適切な行動選択に起因するからである。

具体的な例を挙げますと、以下の通りです。

• 行為は権限の境界を侵害する可能性がある。
• アクティブコンプライアンスルールとの矛盾、
• 無効なプロセスシーケンスをトリガーする、
• あるいは、下流工程における運用リスクを生み出す。

このような場合、問題は知能の欠陥ではなく、制約の不備にある。だからこそ、自律システムにおいて制約付き計画の重要性がますます高まっているのだ。

生成されたアクションを直接実行する代わりに、システムは以下を実行する必要があります。

• 実現可能性を評価する、
• 無効なパスを削除する、
• 実行時制約を適用する、
• 競合を検出し、
• 必要に応じて代替実行パスを生成する。

概念的には、これは現代のエージェントシステムを、従来の対話型AIアーキテクチャよりも古典的なプランニングシステムに近づけるものである。

次のようなアプローチ：

• GraphPlan、
• 制約充足システム、
• ヒューリスティック探索、
• A* の変種、
• および動的な再計画アルゴリズム

システムが継続的に変化する実行時条件下で動作するようになると、再び重要性を増す。

しかし、従来のプランナーとは異なり、現代の運用システムは、確率的な意味解釈、非構造化入力、進化するグラフコンテキスト、および動的に変化するポリシーも備えている。

その結果、新たに構築されるアーキテクチャは、純粋に記号的なものでも、純粋に確率的なものでもない。それは、LLMが解釈を行い、グラフが運用状態を維持し、制約が実行境界を定義し、プランナーがその境界内で実行可能なアクションを生成する、ハイブリッドな実行モデルとなる。

この分離は、自律システムが運用制御を失うことなく柔軟性を維持できるため重要である。目的は確率的知能を排除することではない。

その目的は、確率的推論が、決定論的な検証層を介さずに直接的に運用実行を制御することを防ぐことである。

運用コンテキスト、実行制約、制約付きプランニングがランタイム自体の一部になると、自律実行は単純なオーケストレーション問題ではなくなります。システムは、変化する運用状態に基づいて継続的に動作します。エンティティは進化し、関係性は変化し、制約は有効化または期限切れになり、実行可能性は時間とともに変化します。

このような状況下では、実行は生成された出力のみに依存することはもはやできません。システムは、状況を継続的に再評価し、制約を検証し、計画を調整し、変化する状況下でも運用上の一貫性を維持する必要があります。

エージェントシステムが短期的なワークフローから、長期にわたる目標指向型の運用へと移行するにつれて、この点はさらに重要になります。このような環境では、目標は持続し、複数のエージェントが相互作用し、組織の境界が重要になり、実行パスは実行時に動的に変化します。

その結果、計画策定は単発的な作業ではなく、継続的な運用プロセスとなる。グラフベースの運用状態、実行可能なポリシー、制約を考慮した計画策定といった要素が融合し、自律システムのための新たなランタイムアーキテクチャが構築され始める。

そして、時が経つにつれて、このアーキテクチャは新たな世代の運用成果物を生み出す可能性が高いでしょう。

• KAOS [10]などの目標指向要求工学アプローチに触発された持続的な目標、
• 実行可能な組織的役割と責任は、マルチエージェントシステムのためのガイアの役割指向型組織モデリングに類似している[11]。
• MOISE+ [12]のような組織的MASアプローチに似た適応型調整構造、
•  また、組織論理と適応型マルチ組織システムの研究で探求されている長期マルチエージェントシステムのランタイム組織パターン[13][14]も参照。

したがって、次世代の企業向けAIシステムは、生成できるアクションの数ではなく、絶えず変化する制約の下で、協調的で目標指向的な行動をどれだけ確実に維持できるかによって定義されるようになるかもしれない。

1. Hogan, A., Blomqvist, E., Cochez, M., et al. 知識グラフ。ACM Computing Surveys、2021年。

2. Edge, D., et al. ローカルからグローバルへ: クエリ重視の要約へのGraphRAGアプローチ。arXiv、2024年。

3. Nii, HP「問題解決のブラックボードモデルとブラックボードアーキテクチャの進化」AI Magazine、1986年。

4. Wooldridge, M. マルチエージェントシステム入門。Wiley、2009年。

5. Ferber, J. マルチエージェントシステム：分散型人工知能入門。Addison-Wesley、1999年。

6. Myers, KL「継続的な計画と実行のためのフレームワークに向けて」AAAI、1999年。

7. Rao, AS、Georgeff, MP BDIエージェント：理論から実践へ。ICMAS、1995年。

8. Ceri, S., Gottlob, G., Tanca, L. 論理プログラミングとデータベース。Springer、1990年。

9. Abiteboul, S., Hull, R., Vianu, V. データベースの基礎。Addison-Wesley、1995年。

[10]. van Lamsweerde, A. (2001). 目標指向要求工学：ガイド付きツアー。

[11] Wooldridge, M., Jennings, NR, & Kinny, D. (2000). エージェント指向分析および設計のための Gaia 手法。

[12] Hannoun, M.、Sichman, JS、Boissier, O.、および Sayettat, C. (2000)。 MOISE: マルチエージェント システムの組織モデル。

[14] Dignum, V., & Dignum, F. (2018). エージェントシステムにおける組織モデルの役割。

[15] Tamersoy, M., Ekinci, EE, Erdur, RC, & Dikenelli, O. (2017). 適応型マルチ組織システムの要求モデル。SASO 2017。