Липсващият слой в агентния изкуствен интелект

Повечето съвременни агентни системи третират контекста предимно като история на разговорите, извлечени документи или резултати от векторно сходство. Този подход работи сравнително добре за разговорни задачи, но операционните системи изискват фундаментално различен тип управление на контекста.

В реални среди решенията зависят не само от получената информация, но и от:

• взаимоотношения между обекти,
• организационна структура,
• времеви събития,
• вериги на собственост, 
• предишни решения,
• активни ограничения,
• и непрекъснато променящо се оперативно състояние [1]. 

Клиентът не е просто документ. Компанията не е просто текстов фрагмент. Регулаторно събитие не е просто поредният резултат от търсенето. Операционните системи изискват непрекъснато развиващ се модел на състоянието. Именно тук разграничението между памет и оперативен контекст става критично.

Паметта съхранява информация. Оперативният контекст поддържа състоянието на системата.

На практика това означава, че системата трябва непрекъснато да поддържа и актуализира структури като обекти, взаимоотношения, вериги от времеви събития, обвързване на политики и история на изпълнение. Това е една от причините, поради които графово-базираните подходи стават все по-важни в агентните системи.

Графът е полезен не само за извличане на данни. Той предоставя представяне на оперативното състояние по време на изпълнение. Вместо да третира контекста като изолирани текстови фрагменти, системата може да разсъждава върху свързани обекти, развиващи се взаимоотношения, времеви зависимости и пътища на разпространение на контекста. Това променя изцяло ролята на графа. Графът престава да бъде слой за съхранение и става:

• контекстуална памет,
• оперативно държавно представителство,

• и контекст на изпълнение за системи за вземане на решения.

  

  С насочването на агентните системи към автономни операции, това разграничение става все по-важно. Защото автономното изпълнение изисква не само извличане на информация, но и непрекъснато управление на контекстуалното състояние [4].

Представете си агент по спорове, който обработва заявка за сторниране на плащане. Клиентът твърди, че транзакцията е била измамна. Транзакцията е извършена от надеждно устройство. Търговецът има нисък рисков рейтинг. На пръв поглед случаят изглежда прост. Но транзакцията е осъществена скоро след необичайно нулиране на паролата, клиентът е имал скорошна смяна на устройството, а политиката на банката за борба с измамите изисква ескалация, когато множество слаби сигнали се появят заедно в рамките на кратък период от време.

В този момент политиката не може да остане PDF файл. Тя трябва да стане част от основата на разсъждението.

В оперативна агентна система, политиките не трябва да се извличат само като текст, след като LLM вече е формирал отговор. Те трябва активно да ограничават изпълнението: блокиране на определени действия, задействане на ескалации, промяна на пътищата за одобрение, изискване на допълнителни доказателства или предотвратяване на автоматизирано разрешаване. Тази идея е тясно свързана с по-ранни подходи за планиране, базирани на политики, където изпълнението се оформя непрекъснато от ограничения, цели и условия на околната среда, а не от изолирана логика за изпълнение на задачи [6].

Именно тук оперативният контекст, базиран на графи, става критичен.

Графиката представя състоянието на спора: клиент, акаунт, транзакция, търговец, устройство, събитие за нулиране на парола, индикатори за измама, предишни решения, правила на политиките и история на изпълнението. След това политиките се свързват с тази графика като изпълними ограничения, а не като изолирани документи. В много отношения това наподобява еволюцията на среди за изпълнение с множество агенти, където интелигентните обекти се координират чрез непрекъснато споделено оперативно състояние, а не чрез изолиран обмен на съобщения [4].

Слой за разсъждение може да работи върху този граф, използвайки механизми, базирани на правила или логика, извлечени от по-ранни логически програми и дедуктивни системи за бази данни [8]. Например, правило, подобно на Datalog, може да изрази, че спорът трябва да бъде ескалиран, ако оспорвана транзакция следва нулиране на парола, включва ново устройство и надвишава праг на риск - подход, концептуално съобразен с класическите системи за дедуктивно разсъждение и логическите двигатели за бази данни [9].

LLM може да интерпретира случая, да обясни решението и да взаимодейства с потребителите, но самото условие на политиката се оценява детерминистично върху графиката.

В тази архитектура графовият енджин се превръща в оперативен субстрат, докато слоят за разсъждение оценява ограниченията, задълженията, разрешенията и зависимостите спрямо текущото състояние. Това разделение между вероятностно разсъждение и ограничено изпълнение също така отразява по-ранни модели на агенти, базирани на BDI, където интелигентното поведение произтича не само от целите, но и от непрекъснато поддържаните вярвания, намерения, задължения и ограничения за изпълнение (Rao & Georgeff, 1995).

Ключовата промяна 

Това позволява на автономния агент по спорове да разсъждава не само върху случилото се, но и върху това какво е позволено, изисквано, блокирано или ескалирано на всяка стъпка от изпълнението.

След като контекстът се превърне в непрекъснато развиващо се оперативно състояние и политиките станат изпълними ограничения, следващото предизвикателство е самото изпълнение на решенията.

На този етап проблемът вече не е извличане. Той се превръща в контрол на решенията по време на изпълнение. Повечето съвременни агентни системи все още функционират като системи за генериране на действия: извличат контекст, разсъждават върху него, генерират действие, изпълняват резултата. Но операционните системи изискват допълнителен слой между разсъждението и изпълнението: ограничен конвейер за вземане на решения.

Това разграничение е критично, защото оперативните среди рядко съдържат едно-единствено валидно действие. Вместо това те съдържат:

• осъществими действия,
• забранени действия,
• ескалирани действия,
• закъснели действия,
• и условно разрешени действия.

Следователно ролята на системата е не само да генерира действия, но и непрекъснато да ги филтрира и валидира при ограничения по време на изпълнение. Опростеният конвейер все повече изглежда така: 

Това променя ролята на няколко компонента в стека. Графът вече не се използва само за извличане. Той се превръща в оперативното състояние на системата по време на изпълнение. 

Политиките вече не са статична документация. Те се превръщат в изпълними ограничения по време на изпълнение, оценявани по време на генериране на решения. Планиращият вече не е просто подреждане на задачи. Той става отговорен за генерирането на оперативно осъществими действия при активни ограничения.

Това разграничение е важно, защото много оперативни повреди не произтичат от липсваща информация. Те произтичат от невалиден избор на действия при променящи се условия.

Например:

• действие може да наруши границата на властта,
• конфликт с активно правило за съответствие,
• задействане на невалидна последователност от процеси,
• или да създадат оперативен риск надолу по веригата.

В тези случаи проблемът не е неуспех на интелигентността. Това е неуспех на ограниченията. Ето защо ограниченото планиране става все по-важно в автономните системи.

Вместо директно изпълнение на генерирани действия, системата трябва:

• оценка на осъществимостта,
• отрежете невалидни пътища,
• прилагайте ограничения по време на изпълнение,
• откриване на конфликти,
• и генериране на алтернативни пътища за изпълнение, когато е необходимо.

Концептуално това доближава съвременните агентни системи до класическите системи за планиране, отколкото до традиционните разговорни архитектури на изкуствен интелект.

Подходи като:

• Графичен план,
• системи за удовлетворяване на ограниченията,
• евристично търсене,
• А* варианти,
• и алгоритми за динамично препланиране

стават отново актуални, след като системите работят при непрекъснато променящи се условия на изпълнение.

Въпреки това, за разлика от класическите плановици, съвременните операционни системи съдържат и вероятностна семантична интерпретация, неструктурирани входни данни, развиващ се графов контекст и динамично променящи се политики.

В резултат на това, нововъзникващата архитектура не е нито чисто символична, нито чисто вероятностна. Тя се превръща в хибриден модел за изпълнение, където LLM интерпретират, графите поддържат оперативното състояние, ограниченията определят границите на изпълнение, а планиращите генерират осъществими действия в рамките на тези граници.

Това разделяне е важно, защото позволява на автономните системи да останат гъвкави, без да губят оперативен контрол. Целта не е да се елиминира вероятностната интелигентност.

Целта е да се предотврати директното контролиране на оперативното изпълнение от вероятностно разсъждение без детерминистични валидационни слоеве около него.

След като оперативният контекст, ограниченията на изпълнимите файлове и ограниченото планиране станат част от самата среда за изпълнение, автономното изпълнение престава да бъде прост проблем с оркестрацията. Системата непрекъснато работи в променящо се оперативно състояние: обектите се развиват, взаимоотношенията се променят, ограниченията се активират или изтичат, а осъществимостта на изпълнение се променя с течение на времето.

При тези условия изпълнението вече не може да зависи единствено от генерираните резултати. Системата трябва непрекъснато да преоценява контекста, да валидира ограниченията, да адаптира плановете и да поддържа оперативна последователност при променящи се условия.

Това става още по-критично, тъй като агентните системи преминават от краткотрайни работни процеси към дългосрочни, целенасочени операции. В тези среди целите се запазват, множество агенти взаимодействат, организационните граници са от значение, а пътищата за изпълнение се развиват динамично по време на изпълнение.

В резултат на това планирането престава да бъде еднократна задача и се превръща в непрекъснат оперативен процес. Това е моментът, в който графично-базираното оперативно състояние, изпълнимите политики и планирането, съобразено с ограниченията, започват да се сливат в нова архитектура на изпълнение за автономни системи.

И с течение на времето тази архитектура вероятно ще въведе ново поколение оперативни артефакти:

• постоянни цели, вдъхновени от целенасочени подходи за инженерство на изискванията, като например KAOS [10],
• изпълними организационни роли и отговорности, подобни на ролево-ориентираното организационно моделиране на Gaia за многоагентни системи [11],
• адаптивни координационни структури, наподобяващи организационни MAS подходи, като например MOISE+ [12],
•  и организационни модели по време на изпълнение за дългосрочни многоагентни системи, изследвани в изследванията на организационната логика и адаптивните многоорганизационни системи [13][14].

Следователно, следващото поколение корпоративни системи с изкуствен интелект може да се определи не от това колко действия могат да генерират, а от това колко надеждно могат да поддържат координирано, целенасочено поведение при непрекъснато променящи се ограничения.

1. Хоган, А., Бломквист, Е., Кочес, М. и др. Графи на знанията. ACM Computing Surveys, 2021.

2. Едж, Д. и др. От локално към глобално: Подход на GraphRAG към обобщаване, фокусирано върху заявки. arXiv, 2024.

3. Нии, Х.П. Моделът на черната дъска за решаване на проблеми и еволюцията на архитектурите на черната дъска. Списание AI, 1986.

4. Уулдридж, М. Въведение в многоагентните системи. Wiley, 2009.

5. Фербер, Дж. Многоагентни системи: Въведение в разпределения изкуствен интелект. Addison-Wesley, 1999.

6. Майърс, К.Л. Към рамка за непрекъснато планиране и изпълнение. AAAI, 1999.

7. Рао, А.С., Джорджеф, М.П. BDI агенти: От теория към практика. ICMAS, 1995.

8. Чери, С., Готлоб, Г., Танча, Л. Логическо програмиране и бази данни. Springer, 1990.

9. Абитебул, С., Хъл, Р., Виану, В. Основи на базите данни. Addison-Wesley, 1995.

[10]. ван Ламсвеерде, А. (2001). Целево-ориентирано инженерство на изискванията: Ръководство.

[11] Уулдридж, М., Дженингс, Н.Р. и Кини, Д. (2000). Методологията на Gaia за агентно-ориентиран анализ и дизайн.

[12] Hannoun, M., Sichman, JS, Boissier, O., & Sayettat, C. (2000). MOISE: Организационен модел за многоагентни системи.

[14] Дигнум, В. и Дигнум, Ф. (2018). Ролята на организационните модели в агентните системи.

[15] Тамерсой, М., Екинджи, Е.Е., Ердур, Р.К. и Дикенели, О. (2017). Модел на изисквания за адаптивни многоорганизационни системи. SASO 2017.