الطبقة المفقودة في وكلاء الذكاء الاصطناعي الحديث

لم تعد أنظمة الذكاء الاصطناعي الحديثة تقتصر على التفاعلات أحادية الخطوة. ففي معايير الأداء مثل SWE-Bench وWebArena وOSWorld وبيئات البرمجة الذاتية، قد تُنفّذ البرامج مئات الإجراءات المتسلسلة قبل الوصول إلى الهدف. وهذا يُغيّر جوهر المشكلة. 

مع ازدياد طول سلاسل التنفيذ، تظهر عدة أنماط فشل حرجة:

• انتشار الخطأ: قد يتفاقم خطأ بسيط في التفكير في بداية التنفيذ ليشمل عشرات الخطوات اللاحقة. وقد ينحرف النظام عن الهدف الأصلي، أو يدخل في حلقات إصلاح لا نهائية، أو يستنتج خطأً أن المهمة قد اكتملت.

• انحراف الولاية: تتغير بيئات التشغيل طويلة الأمد باستمرار، حيث يتم تحديث الملفات وإتمام المعاملات وتطوير واجهات برمجة التطبيقات وتفاعل المستخدمين مع النظام. ومع ذلك، تحتفظ معظم البرامج الحالية بالحالة ضمنيًا من خلال سجل المطالبات وسياق الرمز المميز. وبمرور الوقت، يؤدي هذا إلى تباين بين:

• انحراف الهدف: غالباً ما يركز العملاء بشكل مفرط على المهام الفرعية، مما يؤدي إلى فقدان التوافق مع الهدف الأصلي. ومع ازدياد تعقيد المهام، قد تقوم الأنظمة بتحسين الإجراءات المحلية، أو تكرار الحلقات غير الضرورية، أو إنهاء العمل قبل الأوان.
• استنفاد السياق: تقوم معظم أنظمة الوكلاء بإعادة تغذية سجل التنفيذ بشكل متكرر إلى نافذة سياق النموذج. ومع ازدياد طول المهام، يزداد استخدام الرموز بشكل كبير، ويزداد زمن الاستجابة، وتُضغط التفاصيل المهمة أو تُفقد.

لذلك، لا تواجه الأنظمة طويلة الأمد مشكلة في الاستدلال فحسب، بل تواجه أيضًا مشكلة في بنية الذاكرة.

هنا تبرز أهمية التخطيط. يعمل المخطط كطبقة استقرار زمني مسؤولة عن:

• الحفاظ على اتساق الدولة العالمية،

• تتبع الأهداف طويلة المدى،

• التحقق من صحة الانتقالات،

• إدارة التبعيات،

• والتحقق المستمر من التقدم.

مع اتساع نطاق المهام، لم يعد التخطيط مجرد مسألة تحسين بسيطة، بل أصبح مسألة بنية تحتية للاتساق. ومع ذلك، يتطلب تحقيق هذا الاتساق أنظمةً لإدارة ليس فقط التماسك الزمني، بل أيضًا القواعد المعقدة وآلاف القيود في بيئة التشغيل.

من أبرز نقاط ضعف أنظمة الوكلاء الحديثة هو تضخم القيود. تحاول معظم الوكلاء القائمة على نموذج LLM "تذكر" القيود ضمنيًا داخل سياق النموذج. قد ينجح هذا في سير العمل البسيط.

تختلف بيئات المؤسسات الحقيقية. فغالباً ما تتضمن العمليات التشغيلية آلاف القيود في آن واحد:

• قواعد مكافحة غسل الأموال،
• إجراءات اعرف عميلك (KYC)،
• التسلسل الهرمي للموافقات،
• قيود العقوبات،
• مصفوفات السلطة،
• السياسات الداخلية،
• التبعيات الزمنية.

مع ازدياد عدد القيود، يصبح الاستدلال الاحتمالي غير مستقر بشكل متزايد.

لا يقتصر التحدي على تذكر القيود فحسب.
إنها تحافظ على التناسق بينهما.

قد يقوم النظام بتوليد إجراءات معقولة محليًا بينما لا يزال:

• انتهاك السياسة،
• مخالفة أمر الموافقة،
• متجاهلاً حدود السلطة،
• أو إنشاء حالات تشغيلية غير صالحة.

وهذا يكشف عن فرق جوهري:

مع ازدياد استقلالية الأنظمة، لم يعد بالإمكان تجاهل معالجة القيود ضمنيًا في التعليمات البرمجية. تتطلب أنظمة الوكلاء الموثوقة بشكل متزايد محركات قيود صريحة، وتحققًا رمزيًا، وتكاملًا مع أدوات الحل، وفحصًا رسميًا للانتقالات. 

مع وجود بنية التخطيط التحتية، لا يقتصر التخطيط على مجرد ترتيب المهام، بل يصبح عملية تحقق مستمرة من القيود. إلا أن هذا التحدي يتضاعف بشكل كبير عند إضافة العديد من الجهات الفاعلة المستقلة إلى النظام، مما يحول عملية التحقق المستمرة من القيود إلى مشكلة تنسيق نظامي.

من أكثر الافتراضات شيوعًا في الذكاء الاصطناعي الحديث أن إضافة المزيد من العناصر البرمجية تُؤدي تلقائيًا إلى زيادة الذكاء. لكن في الواقع، غالبًا ما يحدث العكس. فمع ازدياد عدد العناصر، يزداد تعقيد التنسيق بسرعة، وتظهر أهداف متضاربة، وعمل مُكرر، وتحديثات غير متسقة للحالة، وتفويض دائري، وحالات جمود، وظروف تنافس.

بدون طبقة تخطيط صريحة، تكافح الأنظمة من أجل: مزامنة التنفيذ، وفرض حدود الأدوار، وإدارة التبعيات، والحفاظ على سلوك تنظيمي متماسك.

ونتيجة لذلك، تصبح العديد من بنى الأنظمة متعددة الوكلاء غير مستقرة تشغيليًا مع ازدياد حجمها. وهنا تبرز أهمية التخطيط. يوفر المخطط: تفويض الصلاحيات، وترتيب التبعيات، والمزامنة، وتنسيق المهام على مستوى النظام.

في إطار هذه البنية المتماسكة، لا يقتصر التخطيط على مجرد تقسيم المهام، بل يصبح الآلية التي تحافظ على تماسك النظام ككل عبر مختلف الجهات الفاعلة المستقلة. ومع ذلك، فإن الحفاظ على هذا التنسيق التنظيمي والاتساق طويل الأمد يتعارض مع نقطة ضعف أساسية في البنية التحتية لأنظمة الوكلاء الحالية: وهي بنية الذاكرة.

تعتمد نماذج اللغة الحديثة في تفكيرها بشكل أساسي على الكلمات. أما المؤسسات فتعتمد في عملها على الهياكل. وتُبنى بيئات المؤسسات الحقيقية على الكيانات والعلاقات والالتزامات وهياكل الملكية وسلاسل السلطة والتبعيات التشغيلية.

فعلى سبيل المثال، نادراً ما يكون السؤال: "هل هذه الشركة محفوفة بالمخاطر؟" مسألة لغوية بحتة. بل غالباً ما يكون مسألة بيانية تتضمن ما يلي:

• شبكات المساهمين،
• الأحداث التاريخية،
• العلاقات التنظيمية،
• المنظمات المتصلة،
• والعلاقات التنفيذية.

وهذا يخلق فجوة جوهرية:

يتمتع الحاصلون على درجة الماجستير في القانون بفعالية عالية في تفسير النصوص.

لكن اتخاذ القرارات في المؤسسات يتطلب تحليلاً منطقياً للواقع التشغيلي المنظم. وبدون أساس دلالي، قد تُسيء أنظمة الوكلاء فهم السياق التنظيمي، وتتجاهل التبعيات الخفية، وتُغفل إشارات المخاطر العلائقية، أو تُصدر قرارات غير متسقة عبر الكيانات المتصلة.

ولهذا السبب يتطلب التخطيط بشكل متزايد طبقات دلالية منظمة مثل مخططات المعرفة، وعلاقات الكيانات، والأنطولوجيات التشغيلية، والاستدلال القائم على الرسم البياني.

وبالتالي، لم يعد التخطيط مدفوعًا فقط بالمحفزات، بل أصبح متجذرًا في الهيكل التشغيلي الفعلي للمنظمة نفسها.

تُعدّ فجوة التحقق من أبرز نقاط الضعف في أنظمة الوكلاء الحديثة. فرغم فعالية نماذج التعلم المنطقي في توليد الإجراءات والاستجابات والخطط، إلا أن التوليد وحده لا يكفي. إذ لا تزال معظم الأنظمة تفتقر إلى آليات موثوقة لتحديد ما يلي:

• ما إذا كان الفعل صحيحاً بالفعل،
• سواء تم انتهاك القيود أم لا،
• سواء تحقق الهدف فعلاً أم لا،
• أو ما إذا كانت الحالة الناتجة تظل متسقة من الناحية التشغيلية.

وهذا يخلق فرقاً جوهرياً:

قد ينتج النظام مخرجات معقولة مع استمراره في انتهاك سياسة المنظمة، أو انتهاك التبعيات، أو إنشاء انتقالات غير صالحة، أو التوهم بإتمام ناجح.

تصبح هذه المشكلة خطيرة بشكل متزايد في مجالات التمويل والرعاية الصحية والطاقة وعمليات المؤسسات الخاضعة للتنظيم، حيث لا يكون الالتزام بالصواب خياراً.

مع ازدياد استقلالية الأنظمة، لم يعد التحقق أمراً ثانوياً. تتطلب بنى الوكلاء الموثوقة بشكل متزايد أدوات التحقق الرسمية، ونشر القيود، وتكامل الحلول، ومحركات السياسات، وطبقات التحقق من التنفيذ.

في ظل نموذج التحقق أولاً، لا يقتصر التخطيط على تحديد الخطوة التالية فحسب، بل يتعلق أيضاً بالتحقق المستمر من صحة التنفيذ طوال العملية برمتها.

معظم أنظمة الوكلاء الحديثة تفكر مثل الأفراد. لكن المؤسسات الحقيقية لا تعمل بهذه الطريقة. بيئات المؤسسات مبنية على أساس الأدوار، وحدود السلطة، وسلاسل التفويض، والالتزامات، وآليات التصعيد، وهياكل الموافقة.

لا يتم تعريف المهمة في كثير من الأحيان فقط من خلال: "ما الذي يجب القيام به؟" ولكن أيضًا من خلال: من يُسمح له بالقيام بذلك، وتحت أي ظروف، وبأي ترتيب، وبموافقة من.

وهذا يشكل قيداً كبيراً للعديد من بنى الوكلاء الحالية.

بدون التفكير التنظيمي، قد تنتهك الأنظمة المستقلة حدود السلطة، وتتجاوز مسارات الموافقة، وتخلق إجراءات متضاربة، أو تولد تناقضات تشغيلية بين الإدارات والجهات الفاعلة.

تتفاقم هذه المشكلة في بيئات المؤسسات الخاضعة للتنظيم، حيث يُعدّ الهيكل التنظيمي نفسه جزءًا من الامتثال. ونتيجةً لذلك، لم يعد بإمكان التخطيط التركيز على المهام والإجراءات فحسب، بل يجب أن يشمل أيضًا: الأدوار التنظيمية، ونماذج السلطة، وقواعد التفويض، والقيود المؤسسية.

ولدعم التفكير التنظيمي، لا يصبح التخطيط مجرد تنسيق تشغيلي فحسب، بل يصبح تنسيقًا تنظيميًا أيضًا.

تتعامل معظم أنظمة الوكلاء الحديثة مع الذاكرة كمشكلة استرجاع. لكن في الواقع، الذاكرة أكثر تعقيدًا بكثير. يجب على الأنظمة المستقلة طويلة الأمد إدارة أشكال متعددة من الذاكرة في آن واحد: الذاكرة العرضية، والذاكرة الدلالية، والذاكرة الإجرائية، وذاكرة حالة العالم.

مع ذلك، تعتمد العديد من البنى الحالية بشكل أساسي على قواعد بيانات المتجهات، والبحث عن التشابه، وسجل الأوامر المضغوط. وهذا يخلق قيودًا خطيرة مع ازدياد طول سلاسل التنفيذ.

قد يسترجع النظام معلومات ذات صلة مع فقدانه للتناسق الزمني، أو نسيانه للالتزامات السابقة، أو تكراره للإجراءات، أو اعتماده على افتراضات قديمة. ولا تقتصر المشكلة على تذكر المعلومات فحسب.

تكمن المشكلة في الحفاظ على استمرارية العمليات عبر الزمن.

مع تطور الأنظمة المستقلة، لم يعد بإمكان الذاكرة أن تبقى مجرد طبقة تخزين سلبية، بل يجب أن تصبح بنية تشغيلية فعّالة. وهنا تبرز أهمية التخطيط. يعمل المخطط كمستهلك منظم للذاكرة قادر على:

• الحفاظ على حالة عالمية مستمرة،
• تتبع الأهداف طويلة الأجل،
• حفظ تاريخ الإعدام،
• ومزامنة السياق المتطور بمرور الوقت.

باعتبارها بنية تشغيلية نشطة، يصبح التخطيط والذاكرة طبقات بنية تحتية مترابطة بعمق بدلاً من كونهما مكونات منفصلة.

غالباً ما يتم صياغة التحدي الرئيسي للذكاء الاصطناعي الوكيل على أنه مشكلة ذكاء.

هل تستطيع النماذج أن تستنتج بشكل أفضل؟
هل بإمكانهم وضع خطط أفضل؟
هل يمكنهم أن يصبحوا أكثر استقلالية؟

لكن مع انتقال أنظمة الوكلاء من العروض التوضيحية إلى بيئات التشغيل الحقيقية، يظهر واقع مختلف.

تتمثل المعوقات الرئيسية بشكل متزايد فيما يلي:

• التناسق،
• التحقق ،
• تنسيق،
• إدارة القيود،
• التفكير التنظيمي،
• والاستقرار التشغيلي على المدى الطويل.

تستطيع أنظمة الذكاء الاصطناعي الحديثة بالفعل توليد سلوك محلي مثير للإعجاب.

ما زالوا يكافحون للحفاظ عليه هو التماسك العالمي بمرور الوقت.