Det manglende lag i Agentic AI

De fleste nuværende agentsystemer behandler kontekst primært som samtalehistorik, hentede dokumenter eller vektorlignende resultater. Denne tilgang fungerer rimeligt godt til samtaleopgaver, men operativsystemer kræver en fundamentalt anderledes type konteksthåndtering.

I virkelige miljøer afhænger beslutninger ikke kun af indhentede oplysninger, men også af:

• entitetsrelationer,
• organisationsstruktur,
• tidsmæssige begivenheder,
• ejerskabskæder, 
• tidligere beslutninger,
• aktive begrænsninger,
• og en kontinuerligt udviklende operationel tilstand [1]. 

En kunde er ikke bare et dokument. En virksomhed er ikke bare en tekstblok. En regulatorisk begivenhed er ikke blot endnu et resultat af hentning. Driftssystemer kræver en tilstandsmodel, der konstant udvikler sig. Det er her, sondringen mellem hukommelse og operationel kontekst bliver afgørende.

Hukommelsen lagrer information. Den operationelle kontekst vedligeholder systemets tilstand.

I praksis betyder det, at systemet løbende skal vedligeholde og opdatere strukturer såsom enheder, relationer, tidsmæssige hændelseskæder, politikbindinger og udførelseshistorik. Dette er en af ​​grundene til, at grafbaserede tilgange bliver stadig vigtigere i agentsystemer.

En graf er ikke kun nyttig til hentning. Den giver en runtime-repræsentation af den operationelle tilstand. I stedet for at behandle kontekst som isolerede tekstfragmenter, kan systemet ræsonnere over forbundne enheder, udviklende relationer, tidsmæssige afhængigheder og kontekstuelle udbredelsesstier. Dette ændrer grafens rolle fuldstændigt. Grafen holder op med at være et lagringslag og bliver:

• kontekstuel hukommelse,
• operationel statsrepræsentation,

• og udførelseskontekst for beslutningssystemer.

  

  Efterhånden som agentsystemer bevæger sig mod autonome operationer, bliver denne sondring stadig vigtigere. Fordi autonom udførelse ikke kun kræver informationsindhentning, men også kontinuerlig kontekstuel tilstandsstyring [4].

Forestil dig en tvistmedarbejder, der håndterer en chargeback-anmodning. Kunden hævder, at en transaktion var svigagtig. Transaktionen blev foretaget fra en betroet enhed. Forhandleren har en lav risikoscore. På overfladen ser sagen simpel ud. Men transaktionen fandt sted kort efter en usædvanlig nulstilling af adgangskode, kunden havde for nylig skiftet enhed, og bankens svindelpolitik kræver eskalering, når flere svage signaler optræder samtidig inden for et kort tidsvindue.

På nuværende tidspunkt kan politikken ikke forblive en PDF. Den skal blive en del af grundlaget for argumentationen.

I et operationelt agentsystem bør politikker ikke kun hentes som tekst, efter at LLM'en allerede har dannet et svar. De skal aktivt begrænse udførelsen: blokere bestemte handlinger, udløse eskaleringer, ændre godkendelsesstier, kræve yderligere beviser eller forhindre automatiseret løsning. Denne idé er tæt forbundet med tidligere politikbaserede planlægningsmetoder, hvor udførelsen løbende formes af begrænsninger, mål og miljøforhold snarere end isoleret opgaveafslutningslogik [6].

Det er her, at grafbaseret operationel kontekst bliver afgørende.

Grafen repræsenterer tviststatus: kunde, konto, transaktion, forhandler, enhed, nulstilling af adgangskode, svindelindikatorer, tidligere beslutninger, politikregler og udførelseshistorik. Politikker forbindes derefter til denne graf som eksekverbare begrænsninger, ikke som isolerede dokumenter. På mange måder ligner dette udviklingen af ​​​​udførelsesmiljøer med flere agenter, hvor intelligente enheder koordinerer gennem en kontinuerligt delt operationel tilstand i stedet for isolerede meddelelsesudvekslinger [4].

Et ræsonnementslag kan operere over denne graf ved hjælp af regelbaserede eller logikbaserede mekanismer afledt af tidligere logikprogrammering og deduktive databasesystemer [8]. For eksempel kan en Datalog-lignende regel udtrykke, at en tvist skal eskaleres, hvis en omstridt transaktion følger en nulstilling af adgangskode, involverer en ny enhed og overstiger en risikotærskel - en tilgang, der konceptuelt er i overensstemmelse med klassiske deduktive ræsonnementsystemer og databaselogikmotorer [9].

LLM'en kan fortolke sagen, forklare beslutningen og interagere med brugerne, men selve politikbetingelsen evalueres deterministisk over grafen.

I denne arkitektur bliver grafmotoren det operationelle substrat, mens ræsonnementslaget evaluerer begrænsninger, forpligtelser, tilladelser og afhængigheder i forhold til den aktuelle tilstand. Denne adskillelse mellem probabilistisk ræsonnement og begrænset udførelse afspejler også tidligere BDI-baserede agentmodeller, hvor intelligent adfærd ikke kun udspringer af mål, men også af kontinuerligt vedligeholdte overbevisninger, intentioner, forpligtelser og udførelsesbegrænsninger (Rao & Georgeff, 1995).

Nøgleskiftet 

Dette giver en autonom tvistbilægger mulighed for ikke blot at ræsonnere over, hvad der skete, men også over, hvad der er tilladt, påkrævet, blokeret eller eskaleret i hvert trin af udførelsen.

Når kontekst bliver en operationel tilstand i konstant udvikling, og politikker bliver eksekverbare begrænsninger, er den næste udfordring selve beslutningsudførelsen.

På dette stadie er problemet ikke længere hentning. Det bliver kontrol over beslutninger under kørsel. De fleste nuværende agentsystemer fungerer stadig som handlingsgenererende systemer: henter kontekst, ræsonnerer over den, genererer en handling, udfører resultatet. Men operationelle systemer kræver et ekstra lag mellem ræsonnement og udførelse: en begrænset beslutningspipeline.

Denne sondring er afgørende, fordi driftsmiljøer sjældent indeholder en enkelt gyldig handling. I stedet indeholder de:

• gennemførlige handlinger,
• forbudte handlinger,
• eskalerede handlinger,
• forsinkede handlinger,
• og betinget tilladte handlinger.

Systemets rolle er derfor ikke kun at generere handlinger, men løbende at filtrere og validere dem under runtime-begrænsninger. En forenklet pipeline ser i stigende grad sådan ud: 

Dette ændrer rollen for flere komponenter i stakken. Grafen bruges ikke længere kun til hentning. Den bliver systemets runtime-driftstilstand. 

Politikker er ikke længere statisk dokumentation. De bliver eksekverbare runtime-begrænsninger, der evalueres under beslutningsgenerering. Planlæggeren sekvenserer ikke længere blot opgaver. Vedkommende bliver ansvarlig for at generere operationelt mulige handlinger under aktive begrænsninger.

Denne sondring er vigtig, fordi mange driftsfejl ikke stammer fra manglende information. De stammer fra ugyldige handlingsvalg under skiftende forhold.

For eksempel:

• en handling kan overtræde en myndighedsgrænse,
• konflikt med en aktiv compliance-regel,
• udløse en ugyldig processekvens,
• eller skabe driftsrisiko downstream.

I disse tilfælde er problemet ikke intelligensfejl. Det er en begrænsningsfejl. Derfor bliver begrænset planlægning stadig vigtigere i autonome systemer.

I stedet for direkte at udføre genererede handlinger, skal systemet:

• vurdere gennemførligheden,
• beskære ugyldige stier,
• anvende runtime-begrænsninger,
• opdage konflikter,
• og generere alternative udførelsesstier, når det er nødvendigt.

Konceptuelt bringer dette moderne agentsystemer tættere på klassiske planlægningssystemer end traditionelle konversationsbaserede AI-arkitekturer.

Tilgange som:

• Grafplan,
• systemer til opfyldelse af begrænsninger,
• heuristisk søgning,
• A*-varianter,
• og dynamiske replanlægningsalgoritmer

blive relevante igen, når systemer opererer under konstant skiftende runtime-forhold.

I modsætning til klassiske planlæggere indeholder moderne operationelle systemer imidlertid også probabilistisk semantisk fortolkning, ustrukturerede input, udviklende grafkontekst og dynamisk skiftende politikker.

Som følge heraf er den nye arkitektur hverken rent symbolsk eller rent probabilistisk. Den bliver en hybrid udførelsesmodel, hvor LLM'er fortolker, grafer opretholder operationel tilstand, begrænsninger definerer udførelsesgrænser, og planlæggere genererer gennemførlige handlinger inden for disse grænser.

Denne adskillelse er vigtig, fordi den gør det muligt for autonome systemer at forblive fleksible uden at miste operationel kontrol. Målet er ikke at eliminere probabilistisk intelligens.

Målet er at forhindre probabilistisk ræsonnement i direkte at kontrollere operationel udførelse uden deterministiske valideringslag omkring det.

Når operationel kontekst, eksekverbare begrænsninger og begrænset planlægning bliver en del af selve runtime-processen, ophører autonom udførelse med at være et simpelt orkestreringsproblem. Systemet opererer kontinuerligt i en skiftende operationel tilstand: enheder udvikler sig, relationer ændrer sig, begrænsninger aktiveres eller udløber, og udførelsesmuligheden ændrer sig over tid.

Under disse forhold kan udførelsen ikke længere udelukkende afhænge af genererede output. Systemet skal løbende revurdere kontekst, validere begrænsninger, tilpasse planer og opretholde operationel konsistens på tværs af skiftende forhold.

Dette bliver endnu mere kritisk, efterhånden som agentsystemer bevæger sig fra kortvarige arbejdsgange til langvarige, måldrevne operationer. I disse miljøer vedvarer mål, flere agenter interagerer, organisatoriske grænser er vigtige, og udførelsesstier udvikler sig dynamisk under kørsel.

Som følge heraf holder planlægning op med at være en engangsopgave og bliver til en kontinuerlig operationel proces. Det er her, grafbaseret operationel tilstand, eksekverbare politikker og begrænsningsbevidst planlægning begynder at konvergere til en ny runtime-arkitektur for autonome systemer.

Og med tiden vil denne arkitektur sandsynligvis introducere en ny generation af operationelle artefakter:

• vedvarende mål inspireret af målorienterede kravudviklingstilgange såsom KAOS [10],
• eksekverbare organisatoriske roller og ansvarsområder svarende til Gaias rolleorienterede organisationsmodellering for multi-agent-systemer [11],
• adaptive koordinationsstrukturer, der ligner organisatoriske MAS-tilgange såsom MOISE+ [12],
•  og runtime-organisatoriske mønstre for langsigtede multi-agent-systemer udforsket i organisationslogik og adaptiv multi-organisatorisk systemforskning [13][14].

Den næste generation af virksomheds-AI-systemer kan derfor defineres ikke ud fra, hvor mange handlinger de kan generere, men ud fra, hvor pålideligt de kan opretholde koordineret, målorienteret adfærd under konstant skiftende begrænsninger.

1. Hogan, A., Blomqvist, E., Cochez, M., m.fl. Vidensgrafer. ACM Computing Surveys, 2021.

2. Edge, D., et al. Fra lokalt til globalt: En GraphRAG-tilgang til forespørgselsfokuseret opsummering. arXiv, 2024.

3. Nii, HP. Blackboard-modellen for problemløsning og udviklingen af ​​Blackboard-arkitekturer. AI Magazine, 1986.

4. Wooldridge, M. En introduktion til multiagentsystemer. Wiley, 2009.

5. Ferber, J. Multiagentsystemer: En introduktion til distribueret kunstig intelligens. Addison-Wesley, 1999.

6. Myers, KL. Mod en ramme for kontinuerlig planlægning og udførelse. AAAI, 1999.

7. Rao, AS, Georgeff, MP BDI-agenter: Fra teori til praksis. ICMAS, 1995.

8. Ceri, S., Gottlob, G., Tanca, L. Logikprogrammering og databaser. Springer, 1990.

9. Abiteboul, S., Hull, R., Vianu, V. Grundlæggende databaser. Addison-Wesley, 1995.

[10]. van Lamsweerde, A. (2001). Målorienteret kravteknik: En guidet tur.

[11] Wooldridge, M., Jennings, NR, & Kinny, D. (2000). Gaia-metoden til agentorienteret analyse og design.

[12] Hannoun, M., Sichman, JS, Boissier, O., & Sayettat, C. (2000). MOISE: En organisatorisk model for multiagentsystemer.

[14] Dignum, V., & Dignum, F. (2018). Organisationsmodellers rolle i agentsystemer.

[15] Tamersoy, M., Ekinci, EE, Erdur, RC, & Dikenelli, O. (2017). En kravmodel til adaptive multiorganisatoriske systemer. SASO 2017.