De ontbrekende laag in agentische AI

De meeste huidige agentsystemen behandelen context voornamelijk als gespreksgeschiedenis, opgehaalde documenten of resultaten van vectorgelijkenisanalyses. Deze aanpak werkt redelijk goed voor conversatietaken, maar operationele systemen vereisen een fundamenteel ander type contextbeheer.

In de praktijk hangen beslissingen niet alleen af ​​van de verzamelde informatie, maar ook van:

• entiteitsrelaties,
• organisatiestructuur,
• tijdelijke gebeurtenissen,
• eigendomsketens, 
• eerdere beslissingen,
• actieve beperkingen,
• en een voortdurend evoluerende operationele toestand [1]. 

Een klant is niet zomaar een document. Een bedrijf is niet zomaar een stukje tekst. Een regelgevende gebeurtenis is niet zomaar een ander zoekresultaat. Operationele systemen vereisen een continu evoluerend statusmodel. Dit is waar het onderscheid tussen geheugen en operationele context cruciaal wordt.

Het geheugen slaat informatie op. De operationele context handhaaft de systeemstatus.

In de praktijk betekent dit dat het systeem structuren zoals entiteiten, relaties, tijdsgebonden gebeurtenisketens, beleidskoppelingen en uitvoeringsgeschiedenis continu moet onderhouden en bijwerken. Dit is een van de redenen waarom grafiekgebaseerde benaderingen steeds belangrijker worden in agentsystemen.

Een graaf is niet alleen nuttig voor het ophalen van informatie. Het biedt een runtime-representatie van de operationele status. In plaats van context te behandelen als geïsoleerde tekstfragmenten, kan het systeem redeneren over verbonden entiteiten, evoluerende relaties, temporele afhankelijkheden en contextuele propagatiepaden. Dit verandert de rol van de graaf volledig. De graaf is niet langer een opslaglaag, maar wordt:

• contextueel geheugen,
• operationele staatsvertegenwoordiging,

• en de uitvoeringscontext voor beslissingssystemen.

  

  Naarmate agentsystemen overgaan op autonome werking, wordt dit onderscheid steeds belangrijker. Want autonome uitvoering vereist niet alleen het ophalen van informatie, maar ook continu contextueel statusbeheer[4].

Stel je voor dat een medewerker van de geschillenafdeling een terugboekingsverzoek behandelt. De klant beweert dat een transactie frauduleus was. De transactie werd uitgevoerd vanaf een vertrouwd apparaat. De verkoper heeft een lage risicoscore. Op het eerste gezicht lijkt de zaak eenvoudig. Maar de transactie vond plaats kort na een ongebruikelijke wachtwoordreset, de klant had recent een ander apparaat en het fraudebeleid van de bank vereist escalatie wanneer er binnen een kort tijdsbestek meerdere zwakke signalen verschijnen.

Op dit punt kan het beleid niet langer een PDF blijven. Het moet onderdeel worden van de onderliggende argumentatie.

In een operationeel agentsysteem mogen beleidsregels niet alleen als tekst worden opgehaald nadat de LLM al een antwoord heeft gevormd. Ze moeten de uitvoering actief beperken: bepaalde acties blokkeren, escalaties in gang zetten, goedkeuringspaden wijzigen, aanvullend bewijs vereisen of geautomatiseerde afhandeling voorkomen. Dit idee is nauw verwant aan eerdere beleidsgebaseerde planningsbenaderingen, waarbij de uitvoering continu wordt gevormd door beperkingen, doelen en omgevingsomstandigheden in plaats van geïsoleerde taakvoltooiingslogica [6].

Dit is waar de op grafieken gebaseerde operationele context cruciaal wordt.

De grafiek geeft de status van het geschil weer: klant, account, transactie, handelaar, apparaat, wachtwoordherstelgebeurtenis, fraude-indicatoren, eerdere beslissingen, beleidsregels en uitvoeringsgeschiedenis. Beleidsregels worden vervolgens aan deze grafiek gekoppeld als uitvoerbare beperkingen, niet als geïsoleerde documenten. In veel opzichten lijkt dit op de evolutie van multi-agent uitvoeringsomgevingen, waar intelligente entiteiten coördineren via een continu gedeelde operationele status in plaats van geïsoleerde berichtenuitwisselingen [4].

Een redeneerlaag kan over deze grafiek werken met behulp van op regels of logica gebaseerde mechanismen die zijn afgeleid van eerdere logische programmeer- en deductieve databasesystemen [8]. Een Datalog-achtige regel kan bijvoorbeeld uitdrukken dat een geschil moet worden geëscaleerd als een betwiste transactie volgt op een wachtwoordreset, een nieuw apparaat betreft en een risicodrempel overschrijdt — een aanpak die conceptueel aansluit bij klassieke deductieve redeneersystemen en databaselogica-engines [9].

Het LLM kan de casus interpreteren, de beslissing toelichten en met gebruikers communiceren, maar de beleidsvoorwaarde zelf wordt deterministisch over de grafiek geëvalueerd.

In deze architectuur vormt de grafische engine het operationele substraat, terwijl de redeneerlaag beperkingen, verplichtingen, machtigingen en afhankelijkheden ten opzichte van de huidige toestand evalueert. Deze scheiding tussen probabilistisch redeneren en beperkte uitvoering sluit ook aan bij eerdere BDI-gebaseerde agentmodellen, waarin intelligent gedrag niet alleen voortkomt uit doelen, maar ook uit continu onderhouden overtuigingen, intenties, verplichtingen en uitvoeringsbeperkingen (Rao & Georgeff, 1995).

De belangrijkste verschuiving 

Dit stelt een autonome geschillenbeslechter in staat om niet alleen te redeneren over wat er is gebeurd, maar ook over wat is toegestaan, vereist, geblokkeerd of geëscaleerd in elke fase van de uitvoering.

Zodra de context een voortdurend evoluerende operationele toestand wordt en beleidsmaatregelen uitvoerbare beperkingen vormen, is de volgende uitdaging de uitvoering van de besluitvorming zelf.

In dit stadium is het probleem niet langer het ophalen van informatie, maar de besturing van beslissingen tijdens de uitvoering. De meeste huidige agentsystemen functioneren nog steeds als actiegenererende systemen: context ophalen, daarover redeneren, een actie genereren en het resultaat uitvoeren. Maar operationele systemen vereisen een extra laag tussen redeneren en uitvoeren: een beperkte beslissingspipeline.

Dit onderscheid is cruciaal, omdat operationele omgevingen zelden slechts één geldige actie bevatten. In plaats daarvan bevatten ze:

• haalbare acties,
• verboden handelingen,
• escalerende acties,
• vertraagde acties,
• en voorwaardelijk toegestane acties.

De rol van het systeem is daarom niet alleen het genereren van acties, maar ook het continu filteren en valideren ervan onder runtime-beperkingen. Een vereenvoudigde pipeline ziet er steeds vaker als volgt uit: 

Dit verandert de rol van verschillende componenten in de stack. De grafiek wordt niet langer alleen gebruikt voor het ophalen van gegevens. Het wordt de operationele status van het systeem tijdens de uitvoering. 

Beleidsregels zijn niet langer statische documentatie. Ze worden uitvoerbare runtime-beperkingen die tijdens het besluitvormingsproces worden geëvalueerd. De planner is niet langer alleen verantwoordelijk voor het sequentiëren van taken. Hij is nu verantwoordelijk voor het genereren van operationeel haalbare acties onder actieve beperkingen.

Dit onderscheid is belangrijk omdat veel operationele mislukkingen niet voortkomen uit ontbrekende informatie, maar uit onjuiste actiekeuzes onder veranderende omstandigheden.

Bijvoorbeeld:

• Een handeling kan een gezagsgrens overschrijden.
• conflict met een actieve nalevingsregel,
• een ongeldige procesreeks activeren,
• of operationele risico's in de vervolgprocessen creëren.

In deze gevallen ligt het probleem niet bij een gebrek aan intelligentie, maar bij een gebrek aan beperkingen. Daarom wordt planning met beperkingen steeds belangrijker in autonome systemen.

In plaats van gegenereerde acties direct uit te voeren, moet het systeem het volgende doen:

• de haalbaarheid beoordelen,
• Ongeldige paden verwijderen,
• runtime-beperkingen toepassen,
• conflicten detecteren,
• en indien nodig alternatieve uitvoeringspaden genereren.

Conceptueel gezien brengt dit moderne agentsystemen dichter bij klassieke planningssystemen dan traditionele conversationele AI-architecturen.

Benaderingen zoals:

• GraphPlan,
• systemen voor het bevredigen van beperkingen,
• heuristisch zoeken,
• A*-varianten,
• en dynamische herplanningsalgoritmen

Ze worden weer relevant zodra systemen onder voortdurend veranderende runtime-omstandigheden opereren.

In tegenstelling tot klassieke planningssystemen bevatten moderne operationele systemen echter ook probabilistische semantische interpretatie, ongestructureerde invoer, een evoluerende grafische context en dynamisch veranderende beleidsregels.

Het resultaat is dat de ontstane architectuur noch puur symbolisch, noch puur probabilistisch is. Het wordt een hybride uitvoeringsmodel waarin LLM's interpreteren, grafieken de operationele status bijhouden, beperkingen de uitvoeringsgrenzen definiëren en planners haalbare acties binnen die grenzen genereren.

Deze scheiding is belangrijk omdat autonome systemen hierdoor flexibel kunnen blijven zonder de operationele controle te verliezen. Het doel is niet om probabilistische intelligentie te elimineren.

Het doel is te voorkomen dat probabilistisch redeneren de operationele uitvoering rechtstreeks aanstuurt zonder dat er deterministische validatielagen omheen zitten.

Zodra de operationele context, uitvoerbare beperkingen en beperkte planning onderdeel worden van de runtime zelf, is autonome uitvoering geen simpel orkestratieprobleem meer. Het systeem opereert continu in een veranderende operationele toestand: entiteiten evolueren, relaties veranderen, beperkingen worden geactiveerd of vervallen, en de uitvoerbaarheid verschuift in de loop van de tijd.

Onder deze omstandigheden kan de uitvoering niet langer uitsluitend afhangen van de gegenereerde output. Het systeem moet continu de context opnieuw evalueren, beperkingen valideren, plannen aanpassen en de operationele consistentie handhaven onder veranderende omstandigheden.

Dit wordt nog belangrijker naarmate agentsystemen verder gaan dan kortstondige workflows en overgaan op langdurige, doelgerichte operaties. In deze omgevingen blijven doelen behouden, communiceren meerdere agenten met elkaar, spelen organisatorische grenzen een rol en evolueren uitvoeringspaden dynamisch tijdens de uitvoering.

Hierdoor is planning geen eenmalige taak meer, maar een continu operationeel proces. Dit is waar op grafieken gebaseerde operationele status, uitvoerbare beleidsregels en planning met aandacht voor beperkingen samenkomen in een nieuwe runtime-architectuur voor autonome systemen.

En na verloop van tijd zal deze architectuur waarschijnlijk een nieuwe generatie operationele artefacten introduceren:

• persistente doelen geïnspireerd door doelgerichte requirements engineering-benaderingen zoals KAOS [10],
• uitvoerbare organisatorische rollen en verantwoordelijkheden vergelijkbaar met Gaia's rolgeoriënteerde organisatiemodellering voor multi-agentsystemen [11],
• adaptieve coördinatiestructuren die lijken op organisatorische MAS-benaderingen zoals MOISE+ [12],
•  en runtime-organisatiepatronen voor multi-agentsystemen met een lange horizon, onderzocht in onderzoek naar organisatielogica en adaptieve multi-organisatiesystemen [13][14].

De volgende generatie AI-systemen voor bedrijven zal daarom wellicht niet worden gedefinieerd door het aantal acties dat ze kunnen genereren, maar door hoe betrouwbaar ze gecoördineerd, doelgericht gedrag kunnen volhouden onder voortdurend veranderende omstandigheden.

1. Hogan, A., Blomqvist, E., Cochez, M., et al. Kennisgrafieken. ACM Computing Surveys, 2021.

2. Edge, D., et al. Van lokaal naar globaal: een GraphRAG-benadering voor query-gerichte samenvatting. arXiv, 2024.

3. Nii, HP. Het Blackboard-model voor probleemoplossing en de evolutie van Blackboard-architecturen. AI Magazine, 1986.

4. Wooldridge, M. Een inleiding tot multiagentsystemen. Wiley, 2009.

5. Ferber, J. Multi-Agent Systems: An Introduction to Distributed Artificial Intelligence. Addison-Wesley, 1999.

6. Myers, KL. Naar een raamwerk voor continue planning en uitvoering. AAAI, 1999.

7. Rao, AS, Georgeff, MP BDI Agents: From Theory to Practice. ICMAS, 1995.

8. Ceri, S., Gottlob, G., Tanca, L. Logisch programmeren en databases. Springer, 1990.

9. Abiteboul, S., Hull, R., Vianu, V. Grondbeginselen van databases. Addison-Wesley, 1995.

[10]. van Lamsweerde, A. (2001). Doelgerichte requirements engineering: een rondleiding.

[11] Wooldridge, M., Jennings, NR, & Kinny, D. (2000). De Gaia-methodologie voor agentgeoriënteerde analyse en ontwerp.

[12] Hannoun, M., Sichman, JS, Boissier, O., & Sayettat, C. (2000). MOISE: een organisatiemodel voor multi-agentsystemen.

[14] Dignum, V., & Dignum, F. (2018). De rol van organisatiemodellen in agentsystemen.

[15] Tamersoy, M., Ekinci, EE, Erdur, RC, & Dikenelli, O. (2017). Een vereistenmodel voor adaptieve multi-organisatiesystemen. SASO 2017.