現代のAIエージェントにおける欠落したレイヤー

現代のAIシステムは、もはや単一ステップのインタラクションに限定されません。SWE-Bench、WebArena、OSWorldなどのベンチマークや自律型コーディング環境では、エージェントは目標に到達するまでに数百もの連続したアクションを実行する場合があります。これは、問題の本質を根本的に変えるものです。 

実行チェーンが長くなるにつれて、いくつかの重大な障害モードが出現する。

• エラー伝播: 実行初期段階における些細な推論ミスが、その後の数十ものステップに影響を及ぼす可能性があります。システムが本来の目的から逸脱したり、修復ループに陥ったり、タスクが完了したと誤って判断したりする可能性があります。

• 州の動向： 長期間稼働する環境では、ファイルの更新、トランザクションの完了、APIの進化、ユーザーとシステムのやり取りなど、常に変化が続きます。しかし、現在のほとんどのエージェントは、プロンプト履歴とトークンコンテキストを通じて暗黙的に状態を維持しています。時間の経過とともに、これは次のような乖離を生み出します。

• 目標のずれ: エージェントはしばしばサブタスクに過度に集中し、本来の目的との整合性を失ってしまう。タスクの深度が増すにつれて、システムは局所的なアクションを最適化したり、不要なループを繰り返したり、あるいは途中で終了したりする可能性がある。
• 文脈の枯渇： ほとんどのエージェントシステムは、実行履歴をモデルコンテキストウィンドウに繰り返しフィードバックします。タスクが長くなるにつれて、トークンの使用量が爆発的に増加し、レイテンシが増大し、重要な詳細情報が圧縮または失われます。

したがって、長時間稼働するシステムは、推論の問題だけでなく、メモリアーキテクチャの問題にも直面する。

ここで計画が不可欠となる。プランナーは、以下の責任を負う時間的安定性レイヤーとして機能する。

• 世界国家の一貫性を維持し、

• 長期目標の追跡、

• 遷移の検証、

• 依存関係の管理、

• そして、進捗状況を継続的に検証する。

タスクの期間が長くなるにつれて、計画策定は単純な最適化問題ではなくなり、一貫性インフラストラクチャの問題へと変化します。しかし、この一貫性を実現するには、システムが時間的な整合性だけでなく、運用環境の複雑なルールや数千もの制約も管理する必要があります。

現代のエージェントシステムの最大の弱点の1つは、制約の爆発です。ほとんどのLLMベースのエージェントは、モデルコンテキスト内で制約を暗黙的に「記憶」しようとします。これは単純なワークフローには有効かもしれません。

実際の企業環境は異なります。業務プロセスには、しばしば数千もの制約が同時に存在します。

• AML規則、
• KYC手続き、
• 承認階層、
• 制裁制限、
• 権威マトリックス、
• 内部方針、
• 時間的依存関係。

制約の数が増えるにつれて、確率的推論はますます不安定になる。

課題は、制約事項を覚えておくことだけではない。
それは両者の一貫性を維持することである。

システムは、まだ以下の状態であっても、局所的に妥当な動作を生成する可能性がある。

• ポリシー違反、
• 承認命令を破る、
• 権威の境界を無視して、
• または、無効な動作状態を生成する。

これは重要な違いを明らかにしている。

システムがより自律的になるにつれて、制約処理をプロンプト内に暗黙的に組み込むことはもはや不可能になります。信頼性の高いエージェントシステムには、明示的な制約エンジン、記号検証、ソルバー統合、および形式的な遷移チェックがますます必要になります。 

計画策定のためのインフラが整備されると、計画策定は単なるタスクの順序付けではなくなります。計画策定は、継続的な制約検証へと変化します。しかし、システムに複数の自律的な主体が追加されると、この課題は飛躍的に増大し、継続的な制約検証はシステム全体の調整問題へと変貌します。

現代のAIにおける最も一般的な前提の一つは、エージェントの数を増やせば自動的に知能も向上するというものです。しかし実際には、その逆のことがしばしば起こります。エージェントの数が増えるにつれて、調整の複雑さが急速に増大し、相反する目標、重複作業、矛盾した状態更新、循環的な委譲、デッドロック、競合状態などが発生し始めます。

明確な計画レイヤーがない場合、システムは実行の同期、役割境界の強制、依存関係の管理、および一貫性のある組織的行動の維持に苦労する。

その結果、多くのマルチエージェントアーキテクチャは、規模が大きくなるにつれて運用が不安定になる。ここで計画が重要になる。プランナーは、権限委譲、依存関係の順序付け、同期、およびグローバルなタスク調整を提供する。

この一貫性のあるアーキテクチャにおいては、計画策定は単なるタスクの分解にとどまりません。それは、複数の自律的なアクター間でシステム全体の一貫性を維持するメカニズムとなります。しかしながら、このような組織的な調整と長期的な一貫性を維持することは、現在のエージェントシステムの根本的なインフラストラクチャ上の弱点、すなわちメモリアーキテクチャと衝突します。

現代の言語モデルは主に単語に基づいて推論を行う。組織は構造に基づいて運営される。実際の企業環境は、実体、関係性、義務、所有構造、権限連鎖、および運用上の依存関係に基づいて構築される。

例えば、「この会社はリスクが高いか？」という質問は、純粋な言語問題であることは稀です。多くの場合、以下のようなグラフ問題です。

• 株主ネットワーク、
• 歴史的な出来事、
• 規制関係、
• 関連する組織、
• そして経営幹部との繋がり。

これは根本的なギャップを生み出す。

LLMはテキストの解釈に非常に効果的です。

しかし、企業における意思決定には、構造化された運用上の現実に基づいた推論が不可欠です。意味論的な根拠がなければ、エージェントシステムは組織の文脈を誤解したり、隠れた依存関係を無視したり、関係性に基づくリスクシグナルを見逃したり、接続されたエンティティ間で矛盾した意思決定を行ったりする可能性があります。

そのため、計画策定においては、知識グラフ、エンティティ関係、運用オントロジー、グラフベース推論といった構造化された意味論的レイヤーがますます必要とされるようになっている。

その結果、計画策定はもはや指示のみによって行われるのではなく、組織自体の実際の運営構造に基づいたものとなる。

現代のエージェントシステムの最も重大な弱点の1つは、検証ギャップです。LLMは、行動、応答、計画の生成に非常に効果的です。しかし、生成だけでは十分ではありません。ほとんどのシステムは、以下の点を判断するための信頼できるメカニズムを依然として欠いています。

• 行為が実際に有効かどうか、
• 制約が破られたかどうか、
• 目標が本当に達成されたかどうか、
• あるいは、結果として生じる状態が運用上一貫性を保つかどうか。

これは根本的な違いを生み出す。

システムは、組織の方針に違反したり、依存関係を侵害したり、無効な遷移を生み出したり、正常に完了したと錯覚したりしながらも、もっともらしい出力を生成する可能性がある。

この問題は、正確さが必須となる金融、医療、エネルギー、規制対象企業の業務において、ますます深刻な問題となる。

システムがより自律的になるにつれて、検証はもはや後回しにできるものではなくなります。信頼性の高いエージェントアーキテクチャには、形式検証器、制約伝播、ソルバー統合、ポリシーエンジン、および実行検証レイヤーがますます必要になります。

検証優先のパラダイムにおいては、計画とは次に何をすべきかを決めることだけではなく、実行がプロセス全体を通して有効であるかどうかを継続的に検証することでもある。

現代のほとんどのエージェントシステムは、まるで個人の思考プロセスのように動作します。しかし、実際の組織はそうした仕組みで運営されていません。企業環境は、役割、権限の境界、委任の連鎖、義務、エスカレーションメカニズム、承認階層といった構造に基づいて構築されています。

タスクは、「何をすべきか」という点だけでなく、「誰が、どのような条件下で、どのような順序で、誰の承認を得て、それを行うことが許されているか」という点によっても定義されることが多い。

これは、現在の多くのエージェントアーキテクチャにとって大きな制約となる。

組織的な論理的思考がなければ、自律システムは権限の境界を侵害したり、承認の流れを迂回したり、矛盾する行動を生み出したり、部門間や関係者間で運用上の矛盾を生じさせたりする可能性がある。

この問題は、組織構造自体がコンプライアンスの一部となる規制対象企業環境において、ますます深刻化する。そのため、計画策定はもはやタスクや行動だけに焦点を当てることはできない。組織上の役割、権限モデル、委任ルール、制度上の制約についても考慮する必要がある。

組織的な論理を支えるためには、計画策定は単なる業務調整にとどまらず、組織的な調整にもなる。

現代のほとんどのエージェントシステムは、記憶を検索問題として扱います。しかし実際には、記憶ははるかに複雑です。長時間稼働する自律システムは、エピソード記憶、意味記憶、手続き記憶、世界状態記憶といった複数の形式の記憶を同時に管理しなければなりません。

しかしながら、現在の多くのアーキテクチャは、主にベクトルデータベース、類似性検索、および圧縮されたプロンプト履歴に依存している。これは、実行チェーンが長くなるにつれて深刻な制約を生み出す。

システムは関連情報を取得できるものの、時間的な一貫性を失ったり、以前の約束を忘れたり、同じ動作を繰り返したり、時代遅れの世界の前提に基づいて動作したりする可能性があります。問題は情報を記憶することだけではありません。

問題は、時間の経過に伴う業務の継続性を維持することである。

自律システムが進化するにつれて、メモリはもはや受動的なストレージ層として留まることはできません。能動的な運用構造にならなければなりません。ここでプランニングが重要になります。プランナーは、以下の機能を備えた構造化メモリコンシューマーとして機能します。

• 永続的な世界状態を維持し、
• 長期目標の追跡、
• 実行履歴の保存、
• そして、時間の経過とともに変化する状況を同期させること。

能動的な運用構造として、計画と記憶は別々の構成要素ではなく、深く相互接続されたインフラストラクチャ層となる。

エージェント型AIの中心的な課題は、しばしば知能の問題として捉えられる。

モデルはより優れた推論能力を持つことができるのか？
彼らはより良い計画を立てることができるだろうか？
彼らはもっと自律的になれるだろうか？

しかし、エージェントシステムがデモ段階から実際の運用環境へと移行するにつれて、異なる現実が浮かび上がってくる。

主なボトルネックはますます以下のようになっている。

• 一貫性、
• 検証、
• 調整、
• 制約管理、
• 組織的推論、
• 長期的な運用安定性を実現します。

現代のAIシステムは、既に目覚ましい局所的な挙動を生成できる。

彼らが今もなお維持に苦慮しているのは、長期的なグローバルな整合性である。