השכבה החסרה בבינה מלאכותית של סוכנים

רוב מערכות הסוכנים הנוכחיות מתייחסות להקשר בעיקר כהיסטוריית שיחות, מסמכים שאוחזרו או תוצאות דמיון וקטורי. גישה זו עובדת בצורה סבירה עבור משימות שיחה, אך מערכות תפעוליות דורשות סוג שונה באופן מהותי של ניהול הקשר.

בסביבות אמיתיות, החלטות תלויות לא רק במידע שנאסף, אלא גם ב:

• יחסי ישויות,
• מבנה ארגוני,
• אירועים זמניים,
• שרשראות בעלות, 
• החלטות קודמות,
• אילוצים פעילים,
• ומצב תפעולי המתפתח ללא הרף [1]. 

לקוח אינו רק מסמך. חברה אינה רק קטע טקסט. אירוע רגולטורי אינו עוד תוצאת אחזור מידע. מערכות תפעוליות דורשות מודל מצב שמתפתח ללא הרף. כאן ההבחנה בין זיכרון להקשר תפעולי הופכת קריטית.

הזיכרון מאחסן מידע. ההקשר התפעולי שומר על מצב המערכת.

בפועל , משמעות הדבר היא שהמערכת חייבת לתחזק ולעדכן באופן רציף מבנים כגון ישויות, קשרים, שרשראות אירועים זמניות, קישורי מדיניות והיסטוריית ביצוע. זוהי אחת הסיבות לכך שגישות מבוססות גרפים הופכות לחשובות יותר ויותר במערכות סוכנים.

גרף אינו שימושי רק לאחזור נתונים. הוא מספק ייצוג בזמן ריצה של מצב פעולה. במקום להתייחס להקשר כאל קטעי טקסט מבודדים, המערכת יכולה לחשוב על ישויות מחוברות, קשרים מתפתחים, תלויות זמניות ונתיבי התפשטות הקשריים. זה משנה לחלוטין את תפקיד הגרף. הגרף מפסיק להיות שכבת אחסון והופך ל:

• זיכרון קונטקסטואלי,
• ייצוג מבצעי של המדינה,

• והקשר ביצוע עבור מערכות קבלת החלטות.

  

  ככל שמערכות סוכנים מתקדמות לפעולות אוטונומיות, הבחנה זו הופכת חשובה יותר ויותר. מכיוון שביצוע אוטונומי דורש לא רק אחזור מידע, אלא גם ניהול מצבים הקשרי מתמשך [4].

דמיינו סוכן סכסוכים המטפל בבקשת חיוב חוזר. הלקוח טוען שהעסקה הייתה הונאה. העסקה בוצעה ממכשיר מהימן. לסוחר יש ציון סיכון נמוך. על פני השטח, המקרה נראה פשוט. אבל העסקה התרחשה זמן קצר לאחר איפוס סיסמה חריג, הלקוח החליף לאחרונה מכשיר, ומדיניות ההונאה של הבנק דורשת הסלמה כאשר מספר אותות חלשים מופיעים יחד בחלון זמן קצר.

בשלב זה, המדיניות לא יכולה להישאר כקובץ PDF. היא חייבת להפוך לחלק מבסיס ההיגיון.

במערכת סוכנים מבצעית, אין לאחזר מדיניות רק כטקסט לאחר שה-LLM כבר גיבש תשובה. עליה להגביל באופן פעיל את הביצוע: חסימת פעולות מסוימות, הפעלת הסלמה, שינוי נתיבי אישור, דרישה לראיות נוספות או מניעת פתרון אוטומטי. רעיון זה קשור קשר הדוק לגישות תכנון קודמות המבוססות על מדיניות, שבהן הביצוע מעוצב באופן רציף על ידי אילוצים, מטרות ותנאים סביבתיים ולא על ידי לוגיקת השלמת משימות מבודדת [6].

כאן הופך ההקשר התפעולי המבוסס על גרפים לקריטי.

הגרף מייצג את מצב המחלוקת: לקוח, חשבון, עסקה, סוחר, מכשיר, אירוע איפוס סיסמה, אינדיקטורים להונאה, החלטות קודמות, כללי מדיניות והיסטוריית ביצוע. לאחר מכן, המדיניות מחוברת לגרף זה כאילוצים ניתנים לביצוע, ולא כמסמכים מבודדים. במובנים רבים, הדבר דומה להתפתחות של סביבות ביצוע מרובות סוכנים, שבהן ישויות חכמות מתאמות באמצעות מצב תפעולי משותף באופן רציף ולא באמצעות חילופי הודעות מבודדים [4].

שכבת חשיבה יכולה לפעול מעל גרף זה באמצעות מנגנונים מבוססי כללים או מבוססי לוגיקה הנגזרים מתכנות לוגי קודמות ומערכות מסדי נתונים דדוקטיביות [8]. לדוגמה, כלל דמוי יומן נתונים יכול לבטא שיש להסלים מחלוקת אם עסקה שנויה במחלוקת מגיעה לאחר איפוס סיסמה, כוללת מכשיר חדש ועוברת סף סיכון - גישה המותאמת מבחינה מושגית למערכות חשיבה דדוקטיביות קלאסיות ומנועי לוגיקה של מסדי נתונים [9].

ה-LLM יכול לפרש את המקרה, להסביר את ההחלטה ולקיים אינטראקציה עם משתמשים, אך תנאי המדיניות עצמו מוערך באופן דטרמיניסטי על פני הגרף.

בארכיטקטורה זו, מנוע הגרפים הופך למצע התפעולי, בעוד ששכבת ההיגיון מעריכה אילוצים, התחייבויות, הרשאות ותלות על פני המצב הנוכחי. הפרדה זו בין הנמקה הסתברותית לביצוע מוגבל מהדהדת גם מודלים קודמים של סוכנים מבוססי BDI, שבהם התנהגות חכמה נובעת לא רק ממטרות, אלא גם מאמונות, כוונות, התחייבויות ואילוצי ביצוע המתוחזקים באופן רציף (Rao & Georgeff, 1995).

שינוי המפתח 

זה מאפשר לסוכן סכסוכים אוטונומי להסיק מסקנות לא רק לגבי מה שקרה, אלא גם לגבי מה מותר, נדרש, חסום או מוסלים בכל שלב של הביצוע.

ברגע שההקשר הופך למצב תפעולי המתפתח ללא הרף והמדיניות הופכת לאילוצים ניתנים לביצוע, האתגר הבא הוא ביצוע ההחלטות עצמו.

בשלב זה, הבעיה כבר אינה אחזור נתונים. היא הופכת לשליטה בקבלת החלטות בזמן ריצה. רוב מערכות הסוכנים הנוכחיות עדיין פועלות כמערכות ליצירת פעולות: מאחזרות הקשר, מסבירות אותו, מייצרות פעולה, מבצעות את התוצאה. אבל מערכות תפעוליות דורשות שכבה נוספת בין חשיבה לביצוע: צינור החלטות מוגבל.

הבחנה זו קריטית משום שסביבות תפעוליות לעיתים רחוקות מכילות פעולה תקפה אחת. במקום זאת, הן מכילות:

• פעולות אפשריות,
• פעולות אסורות,
• פעולות מחמירות,
• פעולות מאוחרות,
• ופעולות המותרות בתנאי.

לכן, תפקיד המערכת אינו רק לייצר פעולות, אלא לסנן ולאמת אותן באופן רציף תחת אילוצי זמן ריצה. צינור פשוט נראה יותר ויותר כך: 

זה משנה את תפקידם של מספר רכיבים במחסנית. הגרף כבר אינו משמש רק לאחזור נתונים. הוא הופך למצב הפעולה בזמן הריצה של המערכת. 

מדיניות אינה עוד תיעוד סטטי. היא הופכת לאילוצי זמן ריצה הניתנים לביצוע המוערכים במהלך יצירת החלטות. המתכנן אינו עוד רק מסדר משימות. הוא הופך לאחראי על יצירת פעולות אפשריות מבחינה תפעולית תחת אילוצים פעילים.

הבחנה זו חשובה משום שכשלים תפעוליים רבים אינם נובעים ממידע חסר. הם נובעים מבחירת פעולה לא חוקית בתנאים משתנים.

לדוגמה:

• פעולה עלולה להפר גבול סמכות,
• סתירה לכלל ציות פעיל,
• להפעיל רצף תהליכים לא חוקי,
• או ליצור סיכון תפעולי במורד הזרם.

במקרים אלה, הבעיה אינה כשל מודיעיני. זוהי כשל אילוץ. זו הסיבה שתכנון מוגבל הופך לחשוב יותר ויותר במערכות אוטונומיות.

במקום לבצע ישירות פעולות שנוצרו, המערכת חייבת:

• להעריך את היתכנות,
• גזום נתיבים לא חוקיים,
• להחיל אילוצי זמן ריצה,
• לזהות קונפליקטים,
• וליצור נתיבי ביצוע חלופיים בעת הצורך.

מבחינה מושגית, זה מקרב את מערכות הסוכנים המודרניות למערכות תכנון קלאסיות מאשר ארכיטקטורות בינה מלאכותית מסורתיות של שיחות.

גישות כגון:

• גרף תוכנית,
• מערכות סיפוק אילוצים,
• חיפוש היוריסטי,
• גרסאות A*,
• ואלגוריתמים של תכנון מחדש דינמי

הופכים רלוונטיים שוב ברגע שמערכות פועלות תחת תנאי זמן ריצה המשתנים ללא הרף.

עם זאת, בניגוד למתכננים קלאסיים, מערכות תפעול מודרניות מכילות גם פרשנות סמנטית הסתברותית, קלטים לא מובנים, הקשר גרפי מתפתח ומדיניות משתנה באופן דינמי.

כתוצאה מכך, הארכיטקטורה המתפתחת אינה סמלית בלבד ואינה הסתברותית בלבד. היא הופכת למודל ביצוע היברידי שבו תוכניות לימודים לתואר שני (LLM) מפשרות, גרפים שומרים על מצב תפעולי, אילוצים מגדירים גבולות ביצוע, ומתכננים יוצרים פעולות ישימות בתוך גבולות אלה.

הפרדה זו חשובה משום שהיא מאפשרת למערכות אוטונומיות להישאר גמישות מבלי לאבד שליטה תפעולית. המטרה אינה לבטל את האינטליגנציה ההסתברותית.

המטרה היא למנוע מהנמקה הסתברותית לשלוט ישירות בביצוע המבצעי ללא שכבות אימות דטרמיניסטיות סביבה.

ברגע שההקשר התפעולי, אילוצי הביצוע והתכנון המוגבל הופכים לחלק מזמן הריצה עצמו, ביצוע אוטונומי מפסיק להיות בעיית תזמור פשוטה. המערכת פועלת באופן רציף במצב תפעולי משתנה: ישויות מתפתחות, קשרים משתנים, אילוצים מופעלים או פוקעים, והיתכנות הביצוע משתנה עם הזמן.

בתנאים אלה, הביצוע אינו יכול עוד להיות תלוי אך ורק בתפוקות שנוצרו. המערכת חייבת להעריך מחדש באופן מתמיד את ההקשר, לאמת אילוצים, להתאים תוכניות ולשמור על עקביות תפעולית בתנאים משתנים.

זה הופך להיות קריטי אף יותר ככל שמערכות סוכנים עוברות מעבר לזרימות עבודה קצרות מועד לכיוון פעולות ארוכות טווח ומונעות מטרה. בסביבות אלו, המטרות נמשכות, סוכנים מרובים מקיימים אינטראקציה, גבולות ארגוניים חשובים ונתיבי ביצוע מתפתחים באופן דינמי במהלך זמן הריצה.

כתוצאה מכך, תכנון מפסיק להיות משימה חד פעמית והופך לתהליך תפעולי מתמשך. כאן מתחילים להתכנס מצב תפעולי מבוסס גרפים, מדיניות ניתנת לביצוע ותכנון מודע לאילוצים לכדי ארכיטקטורת זמן ריצה חדשה עבור מערכות אוטונומיות.

ובמשך הזמן, ארכיטקטורה זו צפויה להציג דור חדש של חפצים תפעוליים:

• מטרות מתמשכות בהשראת גישות הנדסת דרישות מוכוונות מטרה כגון KAOS [10],
• תפקידים ואחריות ארגוניים ניתנים לביצוע בדומה למודלים הארגוניים מונחי התפקידים של גאיה עבור מערכות מרובות סוכנים [11],
• מבני קואורדינציה אדפטיביים הדומים לגישות MAS ארגוניות כגון MOISE+ [12],
•  ודפוסי ארגון בזמן ריצה עבור מערכות מרובות סוכנים ארוכות טווח שנחקרו בלוגיקה ארגונית ומחקר מערכות מרובות ארגוניות אדפטיביות [13][14].

לכן, הדור הבא של מערכות בינה מלאכותית ארגוניות עשוי להיות מוגדר לא לפי מספר הפעולות שהן יכולות לייצר, אלא לפי מידת האמינות שהן יכולות לקיים התנהגות מתואמת וממוקדת מטרה תחת אילוצים המשתנים ללא הרף.

1. הוגאן, א., בלומקוויסט, א., קוצ'ז, מ., ואחרים. גרפי ידע. סקרי מחשוב ACM, 2021.

2. אדג', ד., ואחרים. ממקומי לגלובלי: גישת GraphRAG לסיכום ממוקד שאילתות. arXiv, 2024.

3. Nii, HP מודל Blackboard לפתרון בעיות והתפתחות ארכיטקטורות Blackboard. מגזין AI, 1986.

4. וולדרידג', מ. מבוא למערכות מרובות סוכנים. וויילי, 2009.

5. פרבר, י. מערכות מרובות סוכנים: מבוא לבינה מלאכותית מבוזרת. אדיסון-וסלי, 1999.

6. מאיירס, ק.ל. לקראת מסגרת לתכנון וביצוע מתמשכים. AAAI, 1999.

7. ראו, א.ס., ג'ורג'ף, מ.פ. סוכני BDI: מתיאוריה למעשה. ICMAS, 1995.

8. סרי, ש., גוטלוב, ג., טנקה, ל. תכנות לוגי ומסדי נתונים. ספרינגר, 1990.

9. אביטבול, ש., הול, ר., ויאנו, ו. יסודות מסדי הנתונים. אדיסון-וסלי, 1995.

[10]. ואן למסוורדה, א. (2001). הנדסת דרישות מוכוונת מטרות: סיור מודרך.

[11] וולדרידג', מ., ג'נינגס, נ.ר., וקיני, ד. (2000). מתודולוגיית גאיה לניתוח ועיצוב מונחי סוכנים.

[12] Hannoun, M., Sichman, JS, Boissier, O., & Sayettat, C. (2000). MOISE: מודל ארגוני למערכות ריבוי סוכנים.

[14] דיגנום, ו., ודיגנום, פ. (2018). תפקידם של מודלים ארגוניים במערכות סוכנים.

[15] Tamersoy, M., Ekinci, EE, Erdur, RC, & Dikenelli, O. (2017). מודל דרישות למערכות רב-ארגוניות אדפטיביות. SASO 2017.