Відсутній рівень в агентному ШІ

Більшість сучасних агентних систем трактують контекст переважно як історію розмов, отримані документи або результати векторної подібності. Цей підхід досить добре працює для розмовних завдань, але операційні системи вимагають принципово іншого типу управління контекстом.

У реальних умовах рішення залежать не лише від отриманої інформації, а й від:

• зв'язки між сутностями,
• організаційна структура,
• часові події,
• ланцюги власності, 
• попередні рішення,
• активні обмеження,
• та безперервно змінюваний операційний стан [1]. 

Клієнт – це не просто документ. Компанія – це не просто фрагмент тексту. Регуляторна подія – це не просто черговий результат пошуку. Операційні системи потребують моделі стану, що постійно розвивається. Саме тут розмежування між пам'яттю та операційним контекстом стає критичним.

Пам'ять зберігає інформацію. Операційний контекст підтримує стан системи.

На практиці це означає, що система повинна постійно підтримувати та оновлювати такі структури, як сутності, зв'язки, часові ланцюжки подій, прив'язки політик та історія виконання. Це одна з причин, чому графові підходи стають дедалі важливішими в агентних системах.

Граф корисний не лише для пошуку. Він забезпечує представлення операційного стану під час виконання. Замість того, щоб розглядати контекст як ізольовані фрагменти тексту, система може міркувати про пов'язані сутностями, що розвиваються відносини, часові залежності та шляхи поширення контексту. Це повністю змінює роль графа. Граф перестає бути шаром зберігання та стає:

• контекстуальна пам'ять,
• оперативне державне представництво,

• та контекст виконання для систем прийняття рішень.

  

  Оскільки агентні системи рухаються до автономних операцій, ця відмінність стає дедалі важливішою. ​​Оскільки автономне виконання вимагає не лише пошуку інформації, але й безперервного контекстного управління станом [4].

Уявіть собі агента з врегулювання спорів, який обробляє запит на повернення платежу. Клієнт стверджує, що транзакція була шахрайською. Транзакцію було здійснено з надійного пристрою. Продавець має низький рейтинг ризику. На перший погляд, справа виглядає простою. Але транзакція відбулася невдовзі після незвичайного скидання пароля, клієнт нещодавно змінив пристрій, а політика банку щодо шахрайства вимагає ескалації, коли кілька слабких сигналів з'являються разом протягом короткого проміжку часу.

На цьому етапі політика не може залишатися PDF-файлом. Вона має стати частиною основи міркування.

В операційній агентній системі політики не повинні отримуватися лише у вигляді тексту після того, як LLM вже сформував відповідь. Вони повинні активно обмежувати виконання: блокувати певні дії, запускати ескалації, змінювати шляхи затвердження, вимагати додаткових доказів або запобігати автоматичному вирішенню. Ця ідея тісно пов'язана з попередніми підходами до планування на основі політик, де виконання постійно формується обмеженнями, цілями та умовами навколишнього середовища, а не ізольованою логікою виконання завдань [6].

Саме тут операційний контекст на основі графів стає критично важливим.

Графік відображає стан спору: клієнт, обліковий запис, транзакція, продавець, пристрій, подія скидання пароля, індикатори шахрайства, попередні рішення, правила політик та історія виконання. Політики потім підключаються до цього графа як виконувані обмеження, а не як ізольовані документи. Багато в чому це нагадує еволюцію середовищ виконання з кількома агентами, де інтелектуальні сутності координують свою діяльність через безперервно спільний операційний стан, а не через ізольований обмін повідомленнями [4].

Рівень міркування може працювати над цим графом, використовуючи механізми на основі правил або логіки, отримані з попередніх логічних програм та дедуктивних систем баз даних [8]. Наприклад, правило, подібне до Datalog, може виражати необхідність ескалації суперечки, якщо оскаржувана транзакція відбувається після скидання пароля, включає новий пристрій та перевищує поріг ризику — підхід, концептуально узгоджений з класичними системами дедуктивного міркування та логічними механізмами баз даних [9].

LLM може інтерпретувати випадок, пояснювати рішення та взаємодіяти з користувачами, але сама умова політики оцінюється детерміновано за графом.

У цій архітектурі графовий механізм стає операційним субстратом, тоді як рівень міркувань оцінює обмеження, зобов'язання, дозволи та залежності щодо поточного стану. Таке розділення між ймовірнісним міркуванням та обмеженим виконанням також перегукується з попередніми моделями агентів на основі BDI, де інтелектуальна поведінка виникає не лише з цілей, але й з постійно підтримуваних переконань, намірів, зобов'язань та обмежень виконання (Rao & Georgeff, 1995).

Зміна ключа 

Це дозволяє автономному агенту з врегулювання спорів міркувати не лише про те, що сталося, але й про те, що дозволено, потрібно, заблоковано або ескальовано на кожному кроці виконання.

Щойно контекст стає операційним станом, що постійно змінюється, а політики – виконуваними обмеженнями, наступним викликом стає саме виконання рішень.

На цьому етапі проблема вже не полягає в пошуку. Вона перетворюється на керування рішеннями під час виконання. Більшість сучасних агентних систем все ще функціонують як системи генерації дій: отримують контекст, обмірковують його, генерують дію, виконують результат. Але операційним системам потрібен додатковий рівень між міркуваннями та виконанням: обмежений конвеєр рішень.

Ця відмінність є критично важливою, оскільки операційні середовища рідко містять одну допустиму дію. Натомість вони містять:

• можливі дії,
• заборонені дії,
• ескалація дій,
• відкладені дії,
• та умовно дозволені дії.

Таким чином, роль системи полягає не лише в генеруванні дій, а й у постійній фільтрації та перевірці їх з урахуванням обмежень часу виконання. Спрощений конвеєр все частіше виглядає так: 

Це змінює роль кількох компонентів у стеку. Граф більше не використовується лише для пошуку. Він стає станом роботи системи під час виконання. 

Політики більше не є статичною документацією. Вони стають виконуваними обмеженнями під час виконання, які оцінюються під час генерації рішень. Планувальник більше не просто виконує завдання в послідовності. Він відповідає за генерування операційно можливих дій за активних обмежень.

Ця відмінність важлива, оскільки багато операційних збоїв виникають не через відсутність інформації. Вони виникають через неправильний вибір дій за змінних умов.

Наприклад:

• дія може порушити межі повноважень,
• конфлікт із чинним правилом відповідності,
• запустити недійсну послідовність процесів,
• або створювати операційний ризик на нижчих етапах.

У цих випадках проблема не в збої інтелекту. Це збій обмежень. Саме тому планування з обмеженнями стає дедалі важливішим в автономних системах.

Замість безпосереднього виконання згенерованих дій, система повинна:

• оцінити доцільність,
• обрізати недійсні шляхи,
• застосовувати обмеження виконання,
• виявляти конфлікти,
• та генерувати альтернативні шляхи виконання, коли це необхідно.

Концептуально це наближає сучасні агентні системи до класичних систем планування, ніж до традиційних архітектур розмовного штучного інтелекту.

Такі підходи, як:

• Графічний план,
• системи задоволення обмежень,
• евристичний пошук,
• Варіанти A*,
• та алгоритми динамічного перепланування

знову стають актуальними, коли системи працюють в умовах постійної зміни.

Однак, на відміну від класичних планувальників, сучасні операційні системи також містять ймовірнісну семантичну інтерпретацію, неструктуровані вхідні дані, змінюваний графовий контекст та динамічно змінювані політики.

В результаті, архітектура, що розвивається, не є ні суто символічною, ні суто ймовірнісною. Вона стає гібридною моделлю виконання, де LLM інтерпретують, графи підтримують робочий стан, обмеження визначають межі виконання, а планувальники генерують можливі дії в межах цих меж.

Таке розділення важливе, оскільки воно дозволяє автономним системам залишатися гнучкими, не втрачаючи оперативного контролю. Мета не полягає в тому, щоб усунути ймовірнісний інтелект.

Мета полягає в тому, щоб запобігти безпосередньому контролю операційного виконання за допомогою ймовірнісних міркувань без детермінованих шарів перевірки навколо них.

Як тільки операційний контекст, обмеження виконуваних файлів та планування з обмеженнями стають частиною самого середовища виконання, автономне виконання перестає бути простою проблемою оркестрації. Система безперервно працює в умовах змінного операційного стану: сутності розвиваються, зв'язки змінюються, обмеження активуються або закінчуються, а можливість виконання змінюється з часом.

За цих умов виконання більше не може залежати виключно від згенерованих результатів. Система повинна постійно переоцінювати контекст, перевіряти обмеження, адаптувати плани та підтримувати операційну узгодженість за змінних умов.

Це стає ще більш критичним, оскільки агентні системи виходять за рамки короткочасних робочих процесів і переходять до довготривалих, цілеспрямованих операцій. У цих середовищах цілі зберігаються, взаємодіють численні агенти, мають значення організаційні межі, а шляхи виконання динамічно змінюються під час виконання.

В результаті планування перестає бути одноразовим завданням і стає безперервним операційним процесом. Саме тут графовий операційний стан, виконувані політики та планування з урахуванням обмежень починають об'єднуватися в нову архітектуру виконання для автономних систем.

І з часом ця архітектура, ймовірно, представить нове покоління операційних артефактів:

• стійкі цілі, натхненні цілеспрямованими підходами до інженерії вимог, такими як KAOS [10],
• виконувані організаційні ролі та обов'язки, подібні до рольово-орієнтованого організаційного моделювання Gaia для багатоагентних систем [11],
• адаптивні координаційні структури, що нагадують організаційні підходи MAS, такі як MOISE+ [12],
•  та організаційні шаблони виконання для довгострокових багатоагентних систем, досліджені в дослідженнях організаційної логіки та адаптивних багатоорганізаційних систем [13][14].

Таким чином, наступне покоління корпоративних систем штучного інтелекту може визначатися не кількістю дій, які вони можуть генерувати, а тим, наскільки надійно вони можуть підтримувати скоординовану цілеспрямовану поведінку за умов постійно мінливих обмежень.

1. Хоган, А., Бломквіст, Е., Кочес, М. та ін. Графи знань. ACM Computing Surveys, 2021.

2. Едж, Д. та ін. Від локального до глобального: підхід GraphRAG до підсумовування, орієнтованого на запити. arXiv, 2024.

3. Нії, Г.П. Модель розв'язання проблем на чорній дошці та еволюція архітектур чорної дошки. Журнал AI, 1986.

4. Вулдрідж, М. Вступ до багатоагентних систем. Wiley, 2009.

5. Фербер, Дж. Багатоагентні системи: вступ до розподіленого штучного інтелекту. Addison-Wesley, 1999.

6. Майєрс, К.Л. На шляху до структури для безперервного планування та виконання. AAAI, 1999.

7. Рао, А.С., Джорджефф, М.П. Агенти BDI: від теорії до практики. ICMAS, 1995.

8. Цері, С., Готтлоб, Г., Танца, Л. Логічне програмування та бази даних. Springer, 1990.

9. Абітбуль, С., Халл, Р., Віану, В. Основи баз даних. Аддісон-Веслі, 1995.

[10]. ван Ламсверде, А. (2001). Цілеспрямована інженерія вимог: огляд.

[11] Вулдрідж, М., Дженнінгс, Н.Р. та Кінні, Д. (2000). Методологія Gaia для агентно-орієнтованого аналізу та проектування.

[12] Hannoun, M., Sichman, JS, Boissier, O., & Sayettat, C. (2000). MOISE: організаційна модель для багатоагентних систем.

[14] Дігнум, В. та Дігнум, Ф. (2018). Роль організаційних моделей в агентних системах.

[15] Тамерсой, М., Екінджі, Е.Е., Ердур, Р.К. та Дікенеллі, О. (2017). Модель вимог для адаптивних багатоорганізаційних систем. SASO 2017.