Brakująca warstwa w sztucznej inteligencji agentowej

Większość obecnych systemów agentowych traktuje kontekst przede wszystkim jako historię konwersacji, pobrane dokumenty lub wyniki podobieństwa wektorów. To podejście sprawdza się dość dobrze w przypadku zadań konwersacyjnych, ale systemy operacyjne wymagają zasadniczo innego rodzaju zarządzania kontekstem.

W rzeczywistych środowiskach decyzje zależą nie tylko od uzyskanych informacji, ale także od:

• relacje między podmiotami,
• struktura organizacyjna,
• wydarzenia czasowe,
• łańcuchy własnościowe, 
• poprzednie decyzje,
• ograniczenia aktywne,
• i ciągle ewoluującego stanu operacyjnego [1]. 

Klient to nie tylko dokument. Firma to nie tylko fragment tekstu. Zdarzenie regulacyjne to nie tylko kolejny wynik wyszukiwania. Systemy operacyjne wymagają stale ewoluującego modelu stanu. To właśnie tutaj rozróżnienie między pamięcią a kontekstem operacyjnym staje się kluczowe.

Pamięć przechowuje informacje. Kontekst operacyjny utrzymuje stan systemu.

W praktyce oznacza to, że system musi stale utrzymywać i aktualizować struktury, takie jak encje, relacje, łańcuchy zdarzeń czasowych, powiązania polityk i historię wykonania. To jeden z powodów, dla których podejścia oparte na grafach zyskują coraz większe znaczenie w systemach agentowych.

Graf jest przydatny nie tylko do wyszukiwania. Zapewnia on reprezentację stanu operacyjnego w czasie wykonywania. Zamiast traktować kontekst jako izolowane fragmenty tekstu, system może wnioskować na podstawie powiązanych jednostek, ewoluujących relacji, zależności czasowych i kontekstowych ścieżek propagacji. To całkowicie zmienia rolę grafu. Graf przestaje być warstwą pamięci, a staje się:

• pamięć kontekstowa,
• reprezentacja stanu operacyjnego,

• i kontekst wykonania dla systemów decyzyjnych.

  

  W miarę jak systemy agentowe przechodzą w kierunku operacji autonomicznych, to rozróżnienie staje się coraz ważniejsze. Ponieważ autonomiczne wykonywanie wymaga nie tylko pobierania informacji, ale także ciągłego zarządzania stanem kontekstowym[4].

Wyobraź sobie agenta ds. sporów, który rozpatruje wniosek o obciążenie zwrotne. Klient twierdzi, że transakcja była oszustwem. Transakcja została dokonana z zaufanego urządzenia. Sprzedawca ma niski scoring ryzyka. Na pierwszy rzut oka sprawa wydaje się prosta. Jednak transakcja miała miejsce wkrótce po nietypowym zresetowaniu hasła, klient niedawno zmienił urządzenie, a polityka banku dotycząca oszustw wymaga eskalacji, gdy w krótkim czasie pojawi się wiele słabych sygnałów.

Na tym etapie polityka nie może pozostać dokumentem PDF. Musi stać się częścią podłoża rozumowania.

W operacyjnym systemie agentowym polityki nie powinny być pobierane wyłącznie w formie tekstu po uformowaniu odpowiedzi przez LLM. Muszą one aktywnie ograniczać wykonanie: blokując określone działania, wyzwalając eskalacje, zmieniając ścieżki zatwierdzania, wymagając dodatkowych dowodów lub uniemożliwiając automatyczne rozwiązywanie problemów. Ta koncepcja jest ściśle związana z wcześniejszymi podejściami do planowania opartymi na politykach, w których wykonanie jest stale kształtowane przez ograniczenia, cele i warunki środowiskowe, a nie przez izolowaną logikę realizacji zadań [6].

W tym miejscu krytyczny staje się kontekst operacyjny oparty na grafie.

Graf przedstawia stan sporu: klienta, konto, transakcję, sprzedawcę, urządzenie, zdarzenie resetowania hasła, wskaźniki oszustwa, wcześniejsze decyzje, reguły polityki i historię wykonania. Polityki są następnie łączone z tym grafem jako ograniczenia wykonywalności, a nie jako izolowane dokumenty. Pod wieloma względami przypomina to ewolucję środowisk wykonawczych wieloagentowych, w których inteligentne jednostki koordynują się poprzez stale współdzielony stan operacyjny, a nie poprzez izolowaną wymianę komunikatów [4].

Warstwa wnioskowania może operować na tym grafie, wykorzystując mechanizmy oparte na regułach lub logice, wywodzące się z wcześniejszego programowania logicznego i dedukcyjnych systemów baz danych [8]. Na przykład reguła podobna do Datalog może wyrażać konieczność eskalacji sporu, jeśli sporna transakcja następuje po zresetowaniu hasła, obejmuje nowe urządzenie i przekracza próg ryzyka – podejście koncepcyjnie zgodne z klasycznymi dedukcyjnymi systemami wnioskowania i silnikami logiki baz danych [9].

LLM może interpretować przypadek, wyjaśniać decyzję i wchodzić w interakcję z użytkownikami, ale sam warunek polisy jest oceniany deterministycznie na podstawie grafu.

W tej architekturze silnik grafu staje się podłożem operacyjnym, podczas gdy warstwa wnioskowania ocenia ograniczenia, zobowiązania, uprawnienia i zależności w odniesieniu do bieżącego stanu. To rozdzielenie wnioskowania probabilistycznego od ograniczonego wykonania nawiązuje również do wcześniejszych modeli agentów opartych na BDI, w których inteligentne zachowanie wynika nie tylko z celów, ale także z ciągle utrzymywanych przekonań, intencji, zobowiązań i ograniczeń wykonania (Rao i Georgeff, 1995).

Zmiana klucza 

Umożliwia to autonomicznemu agentowi rozstrzygającemu spory nie tylko rozważenie tego, co się wydarzyło, ale także tego, co jest dozwolone, wymagane, zablokowane lub eskalowane na każdym etapie realizacji.

Gdy kontekst staje się ciągle ewoluującym stanem operacyjnym, a zasady stają się wykonywalnymi ograniczeniami, następnym wyzwaniem jest samo wykonywanie decyzji.

Na tym etapie problemem nie jest już pobieranie danych. Staje się kontrolą decyzji w czasie wykonywania. Większość obecnych systemów agentowych nadal działa jako systemy generujące akcje: pobiera kontekst, analizuje go, generuje akcję, wykonuje wynik. Jednak systemy operacyjne wymagają dodatkowej warstwy między wnioskowaniem a wykonaniem: ograniczonego potoku decyzyjnego.

To rozróżnienie jest kluczowe, ponieważ środowiska operacyjne rzadko zawierają pojedynczą prawidłową akcję. Zamiast tego zawierają:

• wykonalne działania,
• zakazane działania,
• eskalowane działania,
• opóźnione działania,
• i działania warunkowo dozwolone.

Rolą systemu jest zatem nie tylko generowanie akcji, ale także ich ciągłe filtrowanie i walidacja w ramach ograniczeń czasu wykonania. Uproszczony potok coraz częściej wygląda tak: 

Zmienia to rolę kilku komponentów w stosie. Graf nie służy już wyłącznie do pobierania danych. Staje się on stanem operacyjnym systemu w czasie wykonywania. 

Polityki nie są już statyczną dokumentacją. Stają się wykonywalnymi ograniczeniami środowiska wykonawczego, ocenianymi podczas generowania decyzji. Planista nie ogranicza się już tylko do sekwencjonowania zadań. Staje się odpowiedzialny za generowanie operacyjnie wykonalnych działań w ramach aktywnych ograniczeń.

To rozróżnienie jest istotne, ponieważ wiele awarii operacyjnych nie wynika z braku informacji, lecz z nieprawidłowego wyboru działania w zmieniających się warunkach.

Na przykład:

• działanie może naruszać granice uprawnień,
• konflikt z aktywną regułą zgodności,
• wywołać nieprawidłową sekwencję procesów,
• lub stworzyć ryzyko operacyjne w dół łańcucha dostaw.

W takich przypadkach problemem nie jest awaria inteligencji. To awaria ograniczeń. Dlatego planowanie z uwzględnieniem ograniczeń nabiera coraz większego znaczenia w systemach autonomicznych.

Zamiast bezpośrednio wykonywać wygenerowane akcje, system musi:

• ocenić wykonalność,
• przycinaj nieprawidłowe ścieżki,
• zastosuj ograniczenia czasu wykonania,
• wykrywać konflikty,
• i w razie potrzeby generować alternatywne ścieżki wykonania.

Koncepcyjnie rzecz biorąc, zbliża to nowoczesne systemy agentowe do klasycznych systemów planowania w porównaniu z tradycyjnymi architekturami sztucznej inteligencji konwersacyjnej.

Podejścia takie jak:

• GraphPlan,
• systemy spełniania ograniczeń,
• wyszukiwanie heurystyczne,
• warianty A*,
• i dynamiczne algorytmy ponownego planowania

stają się ponownie istotne, gdy systemy działają w ciągle zmieniających się warunkach wykonania.

Jednak w odróżnieniu od klasycznych planistów, nowoczesne systemy operacyjne zawierają również probabilistyczną interpretację semantyczną, niestrukturyzowane dane wejściowe, ewoluujący kontekst grafu i dynamicznie zmieniające się zasady.

W rezultacie powstająca architektura nie jest ani czysto symboliczna, ani czysto probabilistyczna. Staje się hybrydowym modelem realizacji, w którym modele LLM interpretują, grafy utrzymują stan operacyjny, ograniczenia definiują granice realizacji, a planiści generują wykonalne działania w ramach tych granic.

To rozdzielenie jest ważne, ponieważ pozwala systemom autonomicznym zachować elastyczność bez utraty kontroli operacyjnej. Celem nie jest wyeliminowanie inteligencji probabilistycznej.

Celem jest uniemożliwienie, aby rozumowanie probabilistyczne bezpośrednio kontrolowało wykonywanie operacji bez deterministycznych warstw walidacyjnych wokół niego.

Gdy kontekst operacyjny, ograniczenia wykonywalności i ograniczone planowanie staną się częścią samego środowiska wykonawczego, autonomiczne wykonywanie przestaje być prostym problemem orkiestracji. System działa w sposób ciągły, bazując na zmiennym stanie operacyjnym: encje ewoluują, relacje ulegają zmianom, ograniczenia aktywują się lub wygasają, a wykonalność wykonania zmienia się w czasie.

W tych warunkach realizacja nie może już opierać się wyłącznie na generowanych wynikach. System musi stale aktualizować kontekst, weryfikować ograniczenia, dostosowywać plany i utrzymywać spójność operacyjną w zmieniających się warunkach.

Staje się to jeszcze bardziej krytyczne, gdy systemy agentowe przechodzą od krótkotrwałych przepływów pracy do długotrwałych operacji ukierunkowanych na cele. W takich środowiskach cele są trwałe, wielu agentów wchodzi w interakcje, granice organizacyjne mają znaczenie, a ścieżki wykonywania dynamicznie ewoluują w czasie wykonywania.

W rezultacie planowanie przestaje być zadaniem jednorazowym, a staje się ciągłym procesem operacyjnym. To właśnie tutaj stan operacyjny oparty na grafach, polityki wykonywalne i planowanie uwzględniające ograniczenia zaczynają się łączyć w nową architekturę środowiska uruchomieniowego dla systemów autonomicznych.

Z czasem architektura ta prawdopodobnie wprowadzi nową generację artefaktów operacyjnych:

• trwałe cele inspirowane podejściami inżynierii wymagań zorientowanymi na cel, takimi jak KAOS [10],
• wykonywalne role i obowiązki organizacyjne podobne do zorientowanego na role modelowania organizacyjnego Gai dla systemów wieloagentowych [11],
• adaptacyjne struktury koordynacyjne przypominające organizacyjne podejścia MAS, takie jak MOISE+ [12],
•  i wzorce organizacyjne czasu wykonania dla systemów wieloagentowych o długim horyzoncie czasowym, badane w logice organizacyjnej i badaniach adaptacyjnych systemów wieloorganizacyjnych [13][14].

Następną generację systemów sztucznej inteligencji dla przedsiębiorstw można zatem zdefiniować nie przez liczbę działań, które są w stanie wygenerować, ale przez to, jak niezawodnie potrafią utrzymać skoordynowane, zorientowane na cel zachowanie przy ciągle zmieniających się ograniczeniach.

1. Hogan, A., Blomqvist, E., Cochez, M. i in. Grafy wiedzy. ACM Computing Surveys, 2021.

2. Edge, D. i in. Od lokalnego do globalnego: podejście GraphRAG do podsumowania skoncentrowanego na zapytaniach. arXiv, 2024.

3. Nii, HP. Model rozwiązywania problemów na tablicy i ewolucja architektur tablic. AI Magazine, 1986.

4. Wooldridge, M. Wprowadzenie do systemów wieloagentowych. Wiley, 2009.

5. Ferber, J. Systemy wieloagentowe: Wprowadzenie do rozproszonej sztucznej inteligencji. Addison-Wesley, 1999.

6. Myers, KL W kierunku ram ciągłego planowania i realizacji. AAAI, 1999.

7. Rao, AS, Georgeff, MP Agenci BDI: od teorii do praktyki. ICMAS, 1995.

8. Ceri, S., Gottlob, G., Tanca, L. Programowanie logiczne i bazy danych. Springer, 1990.

9. Abiteboul, S., Hull, R., Vianu, V. Podstawy baz danych. Addison-Wesley, 1995.

[10]. van Lamsweerde, A. (2001). Inżynieria wymagań zorientowana na cel: przewodnik.

[11] Wooldridge, M., Jennings, NR i Kinny, D. (2000). Metodologia Gaia dla analizy i projektowania zorientowanego na agenta.

[12] Hannoun, M., Sichman, JS, Boissier, O. i Sayettat, C. (2000). MOISE: Model organizacyjny dla systemów wieloagentowych.

[14] Dignum, V. i Dignum, F. (2018). Rola modeli organizacyjnych w systemach agentowych.

[15] Tamersoy, M., Ekinci, EE, Erdur, RC i Dikenelli, O. (2017). Model wymagań dla adaptacyjnych systemów wieloorganizacyjnych. SASO 2017.