De ontbrekende laag in moderne AI-agenten

Moderne AI-systemen zijn niet langer beperkt tot interacties in één enkele stap. In benchmarks zoals SWE-Bench, WebArena, OSWorld en autonome programmeeromgevingen kunnen agents honderden opeenvolgende acties uitvoeren voordat ze een doel bereiken. Dit verandert de aard van het probleem fundamenteel. 

Naarmate uitvoeringsketens langer worden, ontstaan ​​er verschillende kritieke faalmodi:

• Foutvoortplanting: Een kleine denkfout aan het begin van de uitvoering kan zich over tientallen latere stappen opstapelen. Het systeem kan afdwalen van het oorspronkelijke doel, in herstellussen terechtkomen of ten onrechte concluderen dat de taak is voltooid.

• Staatsdrift: Langdurig draaiende omgevingen ondergaan voortdurend veranderingen: bestanden worden bijgewerkt, transacties worden voltooid, API's evolueren en gebruikers interageren met het systeem. De meeste huidige agents behouden hun status echter impliciet via de promptgeschiedenis en tokencontext. Na verloop van tijd leidt dit tot een divergentie tussen:

• Doelafwijking: Agenten richten zich vaak te veel op deeltaken en verliezen de focus op het oorspronkelijke doel. Naarmate de complexiteit van de taken toeneemt, kunnen systemen lokale acties optimaliseren, onnodige lussen herhalen of voortijdig stoppen.
• Contextuitputting: De meeste agentsystemen sturen de uitvoeringsgeschiedenis herhaaldelijk terug naar het modelcontextvenster. Naarmate taken langer duren, neemt het tokengebruik explosief toe, stijgt de latentie en worden belangrijke details gecomprimeerd of gaan ze verloren.

Langdurig draaiende systemen kampen daarom niet alleen met een redeneerprobleem, maar ook met een probleem op het gebied van geheugenarchitectuur.

Hier wordt planning essentieel. Een planner fungeert als een laag van tijdelijke stabiliteit en is verantwoordelijk voor:

• het behoud van consistentie in de wereldtoestand,

• het bijhouden van langetermijndoelen,

• overgangen valideren,

• afhankelijkheden beheren,

• en de voortgang continu te controleren.

Naarmate de taakhorizonnen langer worden, is planning geen simpel optimalisatieprobleem meer, maar een probleem van consistente infrastructuur. Het bereiken van deze consistentie vereist echter systemen die niet alleen de temporele samenhang beheren, maar ook de complexe regels en duizenden beperkingen van de operationele omgeving.

Een van de grootste zwakheden van moderne agentsystemen is de explosieve groei van beperkingen. De meeste op LLM gebaseerde agenten proberen beperkingen impliciet te "onthouden" binnen de modelcontext. Dit kan werken voor eenvoudige workflows.

Echte bedrijfsomgevingen zijn anders. Operationele processen omvatten vaak duizenden beperkingen tegelijk:

• AML-regels,
• KYC-procedures,
• goedkeuringshiërarchieën,
• sanctiebeperkingen,
• autoriteitsmatrices,
• interne beleidsregels,
• temporele afhankelijkheden.

Naarmate het aantal beperkingen toeneemt, wordt probabilistisch redeneren steeds instabieler.

De uitdaging is niet alleen het onthouden van beperkingen.
Het gaat erom de consistentie tussen hen te bewaren.

Een systeem kan lokaal plausibele acties genereren, terwijl het tegelijkertijd:

• het beleid overtreden,
• het goedkeuringsbevel overtreden,
• het negeren van gezagsgrenzen,
• of het creëren van ongeldige operationele toestanden.

Dit onthult een cruciaal onderscheid:

Naarmate systemen autonomer worden, kan de afhandeling van beperkingen niet langer impliciet in prompts blijven. Betrouwbare agentsystemen vereisen steeds vaker expliciete beperkingenengines, symbolische validatie, solverintegratie en formele overgangscontrole. 

Met de juiste planningsinfrastructuur is plannen niet langer slechts het bepalen van de volgorde van taken. Planning wordt een continue controle van de randvoorwaarden. Deze uitdaging neemt echter exponentieel toe wanneer meerdere autonome actoren aan het systeem worden toegevoegd, waardoor de continue controle van de randvoorwaarden verandert in een systeemcoördinatieprobleem.

Een van de meest voorkomende aannames in moderne AI is dat het toevoegen van meer agenten automatisch leidt tot meer intelligentie. In de praktijk gebeurt vaak het tegenovergestelde. Naarmate het aantal agenten groeit, neemt de complexiteit van de coördinatie snel toe, waardoor conflicterende doelen, dubbel werk, inconsistente statusupdates, circulaire delegatie, impassen en raceomstandigheden ontstaan.

Zonder een expliciete planningslaag hebben systemen moeite met: het synchroniseren van de uitvoering, het afdwingen van rolgrenzen, het beheren van afhankelijkheden en het handhaven van coherent organisatorisch gedrag.

Daardoor worden veel multi-agent-architecturen operationeel instabiel naarmate de schaal toeneemt. Planning wordt hier cruciaal. Een planner biedt: bevoegdheid tot delegatie, ordening van afhankelijkheden, synchronisatie en globale taakcoördinatie.

Binnen deze samenhangende architectuur is planning niet simpelweg het opsplitsen van taken. Het wordt het mechanisme dat de systeemwijde samenhang tussen meerdere autonome actoren waarborgt. Het in stand houden van deze organisatorische coördinatie en consistentie op lange termijn botst echter met een fundamentele infrastructurele zwakte van de huidige agentsystemen: de geheugenarchitectuur.

Moderne taalmodellen redeneren primair via woorden. Organisaties functioneren via structuren. Echte bedrijfsomgevingen zijn gebouwd op entiteiten, relaties, verplichtingen, eigendomsstructuren, gezagsketens en operationele afhankelijkheden.

De vraag: "Is dit bedrijf risicovol?" is bijvoorbeeld zelden een puur taalprobleem. Het is vaak een grafenprobleem waarbij het volgende betrokken is:

• aandeelhoudersnetwerken,
• historische gebeurtenissen,
• regelgevingsrelaties,
• verbonden organisaties,
• en connecties op directieniveau.

Dit creëert een fundamentele kloof:

LLM's zijn zeer effectief in het interpreteren van teksten.

Maar besluitvorming binnen een onderneming vereist redenering over de gestructureerde operationele realiteit. Zonder semantische basis kunnen agentsystemen de organisatorische context verkeerd interpreteren, verborgen afhankelijkheden negeren, relationele risicosignalen missen of inconsistente beslissingen nemen tussen verbonden entiteiten.

Daarom vereist planning steeds vaker gestructureerde semantische lagen zoals kennisgrafieken, entiteitsrelaties, operationele ontologieën en grafiekgebaseerd redeneren.

Planning wordt daardoor niet langer alleen gestuurd door aanwijzingen, maar wordt verankerd in de daadwerkelijke operationele structuur van de organisatie zelf.

Een van de meest cruciale zwakheden van moderne agentsystemen is de verificatiekloof. LLM's zijn zeer effectief in het genereren van acties, reacties en plannen. Maar genereren alleen is niet genoeg. De meeste systemen missen nog steeds betrouwbare mechanismen voor het vaststellen van:

• of een handeling daadwerkelijk geldig is,
• of er beperkingen zijn overtreden,
• of het doel daadwerkelijk bereikt is,
• of de resulterende toestand operationeel consistent blijft.

Dit creëert een fundamenteel onderscheid:

Een systeem kan plausibele resultaten opleveren, terwijl het tegelijkertijd het organisatiebeleid schendt, afhankelijkheden overschrijdt, ongeldige overgangen creëert of een succesvolle voltooiing simuleert.

Dit probleem wordt steeds gevaarlijker in de financiële sector, de gezondheidszorg, de energiesector en bij gereguleerde bedrijfsactiviteiten, waar correctheid geen optie is, maar een noodzaak.

Naarmate systemen autonomer worden, kan verificatie niet langer een bijzaak blijven. Betrouwbare agentarchitecturen vereisen steeds vaker formele validatoren, constraintpropagatie, solverintegratie, beleidsengines en uitvoeringsverificatielagen.

Bij een paradigma waarbij verificatie voorop staat, gaat planning niet alleen over beslissen wat er vervolgens moet gebeuren. Het gaat erom continu te controleren of de uitvoering gedurende het hele proces geldig blijft.

De meeste moderne agentsystemen redeneren als individuen. Echte organisaties werken niet op die manier. Bedrijfsomgevingen zijn gestructureerd rond rollen, gezagsgrenzen, delegatieketens, verplichtingen, escalatiemechanismen en goedkeuringshiërarchieën.

Een taak wordt vaak niet alleen gedefinieerd door: "Wat moet er gedaan worden?", maar ook door: wie mag het doen, onder welke voorwaarden, in welke volgorde en met wiens goedkeuring.

Dit vormt een grote beperking voor veel huidige agentarchitecturen.

Zonder een organisatorische onderbouwing kunnen autonome systemen gezagsgrenzen overschrijden, goedkeuringsprocedures omzeilen, tegenstrijdige acties creëren of operationele inconsistenties tussen afdelingen en actoren veroorzaken.

Dit probleem wordt steeds ernstiger in gereguleerde bedrijfsomgevingen waar de organisatiestructuur zelf onderdeel is van de compliance. Daardoor kan de planning zich niet langer alleen richten op taken en acties. Er moet ook rekening worden gehouden met: organisatierollen, gezagsmodellen, delegatieregels en institutionele beperkingen.

Om de organisatorische logica te ondersteunen, wordt planning niet alleen operationele coördinatie, maar ook organisatorische coördinatie.

De meeste moderne agentsystemen beschouwen geheugen als een ophaalprobleem. In de praktijk is geheugen echter veel complexer. Autonome systemen die langdurig draaien, moeten meerdere vormen van geheugen tegelijkertijd beheren: episodisch geheugen, semantisch geheugen, procedureel geheugen en geheugen voor de wereldtoestand.

Veel huidige architecturen zijn echter voornamelijk gebaseerd op vectordatabases, gelijkeniszoekopdrachten en een gecomprimeerde promptgeschiedenis. Dit leidt tot ernstige beperkingen naarmate de uitvoeringsketens langer worden.

Een systeem kan relevante informatie ophalen, maar tegelijkertijd de temporele consistentie verliezen, eerdere afspraken vergeten, acties herhalen of uitgaan van verouderde aannames over de wereld. Het probleem zit hem niet alleen in het onthouden van informatie.

Het probleem is het waarborgen van operationele continuïteit in de loop der tijd.

Naarmate autonome systemen zich ontwikkelen, kan geheugen niet langer een passieve opslaglaag blijven. Het moet een actieve operationele structuur worden. Hier wordt planning cruciaal. Een planner fungeert als een gestructureerde geheugengebruiker die in staat is tot:

• het handhaven van een aanhoudende wereldtoestand,
• het bijhouden van langetermijndoelstellingen,
• het bewaren van de uitvoeringsgeschiedenis,
• en het synchroniseren van de veranderende context in de loop van de tijd.

Als actieve operationele structuur worden planning en geheugen diep met elkaar verbonden infrastructuurlagen in plaats van afzonderlijke componenten.

De grootste uitdaging van AI met een agent wordt vaak gezien als een intelligentieprobleem.

Kunnen modellen beter redeneren?
Kunnen ze betere plannen maken?
Kunnen ze autonomer worden?

Maar naarmate agentsystemen de overstap maken van demo's naar echte operationele omgevingen, ontstaat er een andere realiteit.

De belangrijkste knelpunten zijn in toenemende mate:

• consistentie,
• verificatie,
• coördinatie,
• beperkingenbeheer,
• organisatorisch redeneren,
• en operationele stabiliteit op lange termijn.

Moderne AI-systemen kunnen nu al indrukwekkend lokaal gedrag genereren.

Wat ze nog steeds moeilijk vinden om te behouden, is wereldwijde samenhang over tijd.