A hiányzó réteg az ügynökségi mesterséges intelligenciában

A legtöbb jelenlegi ágensrendszer a kontextust elsősorban beszélgetési előzményekként, lekért dokumentumokként vagy vektor-hasonlósági eredményekként kezeli. Ez a megközelítés meglehetősen jól működik beszélgetési feladatoknál, de az operációs rendszerek alapvetően más típusú kontextuskezelést igényelnek.

Valós környezetben a döntések nemcsak a visszakeresett információkon, hanem a következőkön is múlnak:

• entitáskapcsolatok,
• szervezeti felépítés,
• időbeli események,
• tulajdonosi láncok, 
• korábbi döntések,
• aktív korlátok,
• és folyamatosan fejlődő működési állapot [1]. 

Egy ügyfél nem csupán egy dokumentum. Egy cég nem csupán egy szövegrészlet. Egy szabályozási esemény nem csupán egy újabb lekérdezési eredmény. Az operációs rendszerek folyamatosan fejlődő állapotmodellt igényelnek. Itt válik kritikussá a memória és a működési kontextus közötti különbségtétel.

A memória tárolja az információkat. A működési kontextus fenntartja a rendszer állapotát.

A gyakorlatban ez azt jelenti, hogy a rendszernek folyamatosan karban kell tartania és frissítenie kell az olyan struktúrákat, mint az entitások, kapcsolatok, időbeli eseményláncok, szabályzatkötések és végrehajtási előzmények. Ez az egyik oka annak, hogy a gráfalapú megközelítések egyre fontosabbá válnak az ágensrendszerekben.

Egy gráf nemcsak a visszakereséshez hasznos. Futásidejű reprezentációt biztosít a működési állapotról. A kontextus elszigetelt szövegrészekként való kezelése helyett a rendszer képes következtetéseket levonni az összekapcsolt entitások, a fejlődő kapcsolatok, az időbeli függőségek és a kontextuális terjedési útvonalak alapján. Ez teljesen megváltoztatja a gráf szerepét. A gráf megszűnik tárolási réteg lenni, és a következővé válik:

• kontextuális memória,
• operatív állami képviselet,

• és a döntési rendszerek végrehajtási kontextusa.

  

  Ahogy az ágensrendszerek az autonóm működés felé haladnak, ez a megkülönböztetés egyre fontosabbá válik. Mivel az autonóm végrehajtás nemcsak információ-visszakeresést, hanem folyamatos kontextuális állapotkezelést is igényel [4].

Képzeljünk el egy vitarendezési ügynököt, aki egy visszaterhelési kérelmet kezel. Az ügyfél azt állítja, hogy a tranzakció csalárd volt. A tranzakciót egy megbízható eszközről hajtották végre. A kereskedő alacsony kockázati besorolással rendelkezik. Első pillantásra az eset egyszerűnek tűnik. De a tranzakció röviddel egy szokatlan jelszó-visszaállítás után történt, az ügyfél nemrégiben eszközt cserélt, és a bank csalás elleni szabályzata eszkalációt ír elő, ha rövid időn belül több gyenge jel jelenik meg együtt.

Ezen a ponton a szabályzat nem maradhat PDF formátumban. Az érvelés alapjául kell szolgálnia.

Egy működő ágensrendszerben a szabályzatokat nem szabad csak szövegként lekérni, miután az LLM már megfogalmazta a választ. Aktívan korlátozniuk kell a végrehajtást: blokkolniuk bizonyos műveleteket, eszkalációkat indítaniuk, módosítaniuk a jóváhagyási útvonalakat, további bizonyítékokat kérniük, vagy megakadályozniuk az automatizált megoldást. Ez az elképzelés szorosan kapcsolódik a korábbi szabályzatalapú tervezési megközelítésekhez, ahol a végrehajtást folyamatosan korlátozó tényezők, célok és környezeti feltételek alakítják, nem pedig elszigetelt feladatvégzési logika [6].

Itt válik kritikussá a gráfalapú működési kontextus.

A gráf a vita állapotát ábrázolja: ügyfél, számla, tranzakció, kereskedő, eszköz, jelszó-visszaállítási esemény, csalásjelzők, korábbi döntések, szabályzatszabályok és végrehajtási előzmények. A szabályzatok ezután végrehajtható korlátozásokként, nem pedig elszigetelt dokumentumokként kapcsolódnak ehhez a gráfhoz. Ez sok szempontból hasonlít a többügynökös végrehajtási környezetek fejlődéséhez, ahol az intelligens entitások folyamatosan megosztott működési állapoton keresztül koordinálnak, nem pedig elszigetelt üzenetváltásokon keresztül [4].

Egy érvelési réteg ezen a gráfon működhet szabályalapú vagy logikai alapú mechanizmusok segítségével, amelyek korábbi logikai programozásból és deduktív adatbázis-rendszerekből származnak [8]. Például egy Datalog-szerű szabály kifejezheti, hogy egy vitát eszkalálni kell, ha a vitatott tranzakció jelszó-visszaállítást követ, új eszközt érint, és meghalad egy kockázati küszöbértéket – ez a megközelítés fogalmilag összhangban van a klasszikus deduktív érvelési rendszerekkel és az adatbázis-logikai motorokkal [9].

Az LLM értelmezheti az esetet, elmagyarázhatja a döntést és kapcsolatba léphet a felhasználókkal, de magát a szabályozási feltételt determinisztikusan értékeli ki a gráfon.

Ebben az architektúrában a gráfmotor válik a működési alaptá, míg az érvelési réteg a korlátozásokat, kötelezettségeket, engedélyeket és függőségeket értékeli ki az aktuális állapothoz képest. A valószínűségi érvelés és a korlátozott végrehajtás közötti szétválasztás a korábbi, BDI-alapú ágensmodelleket is tükrözi, ahol az intelligens viselkedés nemcsak célokból, hanem folyamatosan fenntartott hiedelmekből, szándékokból, kötelezettségekből és végrehajtási korlátozásokból is fakad (Rao & Georgeff, 1995).

A kulcsváltás 

Ez lehetővé teszi egy autonóm vitakezelő ügynök számára, hogy ne csak a történteket mérlegelje, hanem azt is, hogy mi megengedett, kötelező, blokkolt vagy eszkalálódott a végrehajtás minden egyes lépésében.

Amint a kontextus folyamatosan fejlődő működési állapottá, a szabályzatok pedig végrehajtható korlátokká válnak, a következő kihívás maga a döntésvégrehajtás.

Ebben a szakaszban a probléma már nem a visszakeresés. Ez futásidejű döntéshozatallá válik. A legtöbb jelenlegi ágensrendszer továbbra is műveletgeneráló rendszerként működik: visszakeresi a kontextust, gondolkodik rajta, műveletet generál, végrehajtja az eredményt. Az operációs rendszereknek azonban egy további rétegre van szükségük az érvelés és a végrehajtás között: egy korlátozott döntési folyamatra.

Ez a megkülönböztetés kritikus, mivel a működési környezetek ritkán tartalmaznak egyetlen érvényes műveletet. Ehelyett a következőket tartalmazzák:

• megvalósítható intézkedések,
• tiltott cselekedetek,
• fokozódott intézkedések,
• késleltetett cselekvések,
• és feltételesen megengedett műveletek.

A rendszer szerepe tehát nemcsak a műveletek generálása, hanem azok folyamatos szűrése és validálása futásidejű korlátok mellett. Egy egyszerűsített folyamat egyre inkább így néz ki: 

Ez megváltoztatja számos komponens szerepét a veremben. A gráfot már nem csak visszakeresésre használják. A rendszer futásidejű működési állapotává válik. 

A szabályzatok már nem statikus dokumentációk. Végrehajtható, futásidejű korlátozásokká válnak, amelyeket a döntéshozatal során értékelnek ki. A tervező már nem egyszerűen csak szekvenálja a feladatokat. Felelőssé válik az aktív korlátozások mellett működőképes műveletek generálásáért.

Ez a megkülönböztetés azért fontos, mert sok működési hiba nem hiányzó információkból, hanem a változó körülmények között választott helytelen cselekvésekből ered.

Például:

• egy cselekedet sértheti a hatáskör határait,
• ütközik egy aktív megfelelőségi szabállyal,
• érvénytelen folyamatsorozat elindítása,
• vagy downstream működési kockázatot teremthetnek.

Ezekben az esetekben a probléma nem az intelligencia hibája, hanem a korlátozás hibája. Ezért válik egyre fontosabbá a korlátozott tervezés az autonóm rendszerekben.

A generált műveletek közvetlen végrehajtása helyett a rendszernek a következőket kell tennie:

• értékelje a megvalósíthatóságot,
• érvénytelen elérési utak metszése,
• futásidejű korlátozások alkalmazása,
• konfliktusok észlelése,
• és szükség esetén alternatív végrehajtási útvonalakat generál.

Koncepcionálisan ez közelebb hozza a modern ágensrendszereket a klasszikus tervezőrendszerekhez, mint a hagyományos párbeszédes MI-architektúrák.

Megközelítések, mint például:

• GraphPlan,
• korlátozás-kielégítő rendszerek,
• heurisztikus keresés,
• A* variánsok,
• és dinamikus újratervezési algoritmusok

ismét relevánssá válnak, amint a rendszerek folyamatosan változó futásidejű feltételek mellett működnek.

A klasszikus tervezőkkel ellentétben azonban a modern operációs rendszerek valószínűségi szemantikai értelmezést, strukturálatlan bemeneteket, változó gráfkontextust és dinamikusan változó szabályzatokat is tartalmaznak.

Ennek eredményeként a kialakulóban lévő architektúra sem nem tisztán szimbolikus, sem nem tisztán valószínűségi. Egy hibrid végrehajtási modellé válik, ahol az LLM-ek értelmeznek, a gráfok fenntartják a működőképes állapotot, a korlátozások meghatározzák a végrehajtási határokat, és a tervezők megvalósítható műveleteket generálnak ezeken a határokon belül.

Ez az elkülönítés azért fontos, mert lehetővé teszi az autonóm rendszerek számára, hogy rugalmasak maradjanak anélkül, hogy elveszítenék a működési kontrollt. A cél nem a valószínűségi intelligencia kiküszöbölése.

A cél annak megakadályozása, hogy a valószínűségi gondolkodás közvetlenül irányítsa a működési végrehajtást determinisztikus validációs rétegek nélkül.

Amint a működési kontextus, a végrehajthatósági korlátozások és a korlátozott tervezés a futási környezet részévé válik, az autonóm végrehajtás már nem egyszerű vezénylési probléma. A rendszer folyamatosan változó működési állapotban működik: az entitások fejlődnek, a kapcsolatok megváltoznak, a korlátozások aktiválódnak vagy lejárnak, és a végrehajtás megvalósíthatósága idővel változik.

Ilyen körülmények között a végrehajtás már nem függhet kizárólag a generált kimenetektől. A rendszernek folyamatosan újra kell értékelnie a kontextust, validálnia kell a korlátozásokat, adaptálnia kell a terveket, és a változó körülmények között is fenn kell tartania a működési konzisztenciát.

Ez még kritikusabbá válik, ahogy az ágensrendszerek a rövid életű munkafolyamatokon túl a hosszú távú, célvezérelt műveletek felé haladnak. Ezekben a környezetekben a célok továbbra is fennállnak, több ágens lép interakcióba egymással, a szervezeti határok számítanak, és a végrehajtási útvonalak dinamikusan fejlődnek futásidőben.

Ennek eredményeként a tervezés megszűnik egyszeri feladat lenni, és folyamatos működési folyamattá válik. Itt kezdenek a gráfalapú működési állapot, a végrehajtható szabályzatok és a korlátozásokat figyelembe vevő tervezés egy új futásidejű architektúrává konvergálni az autonóm rendszerek számára.

És idővel ez az architektúra valószínűleg egy új generációs működési elemet fog bevezetni:

• kitartó célok, amelyeket a KAOS [10]-hez hasonló célorientált követelménymérnöki megközelítések inspirálnak,
• a Gaia többágenses rendszerekre vonatkozó szerepkör-orientált szervezeti modellezéséhez hasonló végrehajtható szervezeti szerepek és felelősségek [11],
• adaptív koordinációs struktúrák, amelyek hasonlítanak a szervezeti MAS-megközelítésekre, mint például a MOISE+ [12],
•  és a hosszú távú többágenses rendszerek futásidejű szervezeti mintáit a szervezeti logika és az adaptív többszervezetes rendszerkutatás vizsgálja [13][14].

A vállalati mesterséges intelligencia rendszerek következő generációját ezért nem az határozza meg, hogy hány műveletet tudnak generálni, hanem az, hogy mennyire megbízhatóan tudják fenntartani az összehangolt, célorientált viselkedést folyamatosan változó korlátok között.

1. Hogan, A., Blomqvist, E., Cochez, M. és mások. Tudásgráfok. ACM számítástechnikai felmérések, 2021.

2. Edge, D. és munkatársai. A lokálistól a globálisig: GraphRAG megközelítés a lekérdezés-központú összefoglaláshoz. arXiv, 2024.

3. Nii, HP: A problémamegoldás Blackboard-modellje és a Blackboard-architektúrák evolúciója. AI Magazine, 1986.

4. Wooldridge, M. Bevezetés a többágenses rendszerekbe. Wiley, 2009.

5. Ferber, J. Többágenses rendszerek: Bevezetés az elosztott mesterséges intelligenciába. Addison-Wesley, 1999.

6. Myers, KL: A folyamatos tervezés és végrehajtás keretrendszere felé. AAAI, 1999.

7. Rao, AS, Georgeff, MP BDI ügynökök: Az elmélettől a gyakorlatig. ICMAS, 1995.

8. Ceri, S., Gottlob, G., Tanca, L. Logikai programozás és adatbázisok. Springer, 1990.

9. Abiteboul, S., Hull, R., Vianu, V. Az adatbázisok alapjai. Addison-Wesley, 1995.

[10]. van Lamsweerde, A. (2001). Célorientált követelménytervezés: Vezetett túra.

[11] Wooldridge, M., Jennings, NR és Kinny, D. (2000). A Gaia módszertan az ágensorientált elemzéshez és tervezéshez.

[12] Hannoun, M., Sichman, JS, Boissier, O. és Sayettat, C. (2000). MOISE: Szervezeti modell többügynök-rendszerekhez.

[14] Dignum, V. és Dignum, F. (2018). A szervezeti modellek szerepe az ágensrendszerekben.

[15] Tamersoy, M., Ekinci, EE, Erdur, RC és Dikenelli, O. (2017). Követelménymodell adaptív több szervezetet magában foglaló rendszerekhez. SASO 2017.