Det saknade lagret i moderna AI-agenter

Moderna AI-system är inte längre begränsade till interaktioner i ett enda steg. I riktmärken som SWE-Bench, WebArena, OSWorld och autonoma kodningsmiljöer kan agenter utföra hundratals sekventiella åtgärder innan de når ett mål. Detta förändrar problemets natur i grunden. 

Allt eftersom exekveringskedjorna blir längre uppstår flera kritiska fellägen:

• Felspridning: Ett litet resonemangsfel tidigt i utförandet kan förvärras över dussintals senare steg. Systemet kan glida bort från det ursprungliga målet, gå in i reparationsloopar eller felaktigt dra slutsatsen att uppgiften är slutförd.

• Tillståndsdrift: Långvariga miljöer ändrar kontinuerligt filer, uppdaterar, transaktioner slutförs, API:er utvecklas och användare interagerar med systemet. De flesta nuvarande agenter bibehåller dock tillstånd implicit genom prompthistorik och tokenkontext. Med tiden skapar detta skillnader mellan:

• Måldrift: Agenter överfokuserar ofta på deluppgifter och förlorar samspelet med det ursprungliga målet. Allt eftersom uppgifternas djup ökar kan system optimera lokala åtgärder, upprepa onödiga loopar eller avslutas i förtid.
• Kontextutmattning: De flesta agentsystem matar upprepade gånger tillbaka exekveringshistoriken till modellens kontextfönster. Allt eftersom uppgifterna blir längre: tokenanvändningen ökar, latensen ökar och viktiga detaljer komprimeras eller går förlorade.

Långkörande system står därför inför inte bara ett resonemangsproblem, utan också ett problem med minnesarkitekturen.

Det är här planering blir avgörande. En planerare fungerar som ett tidsmässigt stabilitetslager som ansvarar för:

• bevara konsistens mellan olika världsstater,

• följa upp långsiktiga mål,

• validering av övergångar,

• hantera beroenden,

• och kontinuerligt verifierar framstegen.

Allt eftersom uppgiftshorisonterna växer, slutar planering att vara ett enkelt optimeringsproblem och blir ett problem med konsekvensinfrastruktur. För att uppnå denna konsekvens krävs det dock att system hanterar inte bara tidsmässig koherens utan också de komplexa reglerna och tusentals begränsningar i den operativa miljön.

En av de största svagheterna hos moderna agentsystem är begränsningsexplosion. De flesta LLM-baserade agenter försöker "komma ihåg" begränsningar implicit i modellkontexten. Detta kan fungera för enkla arbetsflöden.

Verkliga företagsmiljöer är annorlunda. Operativa processer involverar ofta tusentals begränsningar samtidigt:

• AML-regler,
• KYC-procedurer,
• godkännandehierarkier,
• sanktionsrestriktioner,
• auktoritetsmatriser,
• interna policyer,
• tidsmässiga beroenden.

Allt eftersom antalet begränsningar ökar blir probabilistiskt resonemang alltmer instabilt.

Utmaningen är inte bara att komma ihåg begränsningar.
Det handlar om att upprätthålla konsekvens mellan dem.

Ett system kan generera lokalt rimliga åtgärder samtidigt som det:

• bryter mot policyn,
• bryta godkännandeordern,
• ignorerar auktoritetsgränser,
• eller skapar ogiltiga drifttillstånd.

Detta avslöjar en kritisk skillnad:

I takt med att system blir mer autonoma kan hantering av begränsningar inte längre förbli implicit inuti prompter. Tillförlitliga agentsystem kräver i allt högre grad explicita begränsningsmotorer, symbolisk validering, lösningsintegration och formell övergångskontroll. 

Med planeringsinfrastrukturen på plats handlar planering inte bara om uppgiftssekvensering. Planering blir kontinuerlig verifiering av begränsningar. Denna utmaning ökar dock exponentiellt när flera autonoma aktörer läggs till i systemet, vilket omvandlar kontinuerlig verifiering av begränsningar till ett systemiskt samordningsproblem.

Ett av de vanligaste antagandena inom modern AI är att fler agenter automatiskt skapar mer intelligens. I praktiken händer ofta det motsatta. Allt eftersom antalet agenter växer ökar koordineringens komplexitet snabbt, vilket leder till motstridiga mål, dubbelarbete, inkonsekventa tillståndsuppdateringar, cirkulär delegering, dödlägen och kapplöpningsförhållanden.

Utan ett explicit planeringslager kämpar system med att: synkronisera exekvering, genomdriva rollgränser, hantera beroenden och upprätthålla ett sammanhängande organisatoriskt beteende.

Som ett resultat blir många arkitekturer med flera agenter operativt instabila i takt med att skalan ökar. Det är här planering blir avgörande. En planerare tillhandahåller: delegeringsbehörighet, beroendeordning, synkronisering och global uppgiftskoordinering.

Inom denna sammanhängande arkitektur är planering inte bara uppgiftsnedbrytning. Det blir den mekanism som bevarar systemomfattande koherens mellan flera autonoma aktörer. Att upprätthålla denna organisatoriska samordning och långsiktiga konsekvens kolliderar dock med en grundläggande infrastrukturell svaghet hos nuvarande agentsystem: minnesarkitekturen.

Moderna språkmodeller resonerar främst med hjälp av ord. Organisationer verkar med hjälp av strukturer. Verkliga företagsmiljöer bygger på enheter, relationer, skyldigheter, ägarstrukturer, auktoritetskedjor och operativa beroenden.

Till exempel är frågan: ”Är det här företaget riskabelt?” sällan ett rent språkproblem. Det är ofta ett grafproblem som involverar:

• aktieägarnätverk,
• historiska händelser,
• regleringsförhållanden,
• anslutna organisationer,
• och ledande befattningar.

Detta skapar ett grundläggande gap:

Jurister är mycket effektiva på att tolka text,

men företagsbeslutsfattande kräver resonemang kring strukturerad operativ verklighet. Utan semantisk förankring kan agentsystem missförstå organisatoriskt sammanhang, ignorera dolda beroenden, missa relationella risksignaler eller fatta inkonsekventa beslut mellan sammankopplade enheter.

Det är därför planering i allt högre grad kräver strukturerade semantiska lager såsom kunskapsgrafer, entitetsrelationer, operationella ontologier och grafbaserat resonemang.

Följaktligen drivs planering inte längre enbart av uppmaningar. Den blir förankrad i organisationens faktiska operativa struktur.

En av de mest kritiska svagheterna i moderna agentsystem är verifieringsgapet. Juridiska ledare är mycket effektiva på att generera åtgärder, svar och planer. Men enbart generering är inte tillräckligt. De flesta system saknar fortfarande tillförlitliga mekanismer för att fastställa:

• om en handling faktiskt är giltig,
• om begränsningar har överträtts,
• om målet verkligen uppnåddes,
• eller om det resulterande tillståndet förblir operativt konsekvent.

Detta skapar en grundläggande skillnad:

Ett system kan producera rimliga utdata samtidigt som det bryter mot organisationens policy, bryter mot beroenden, skapar ogiltiga övergångar eller hallucinerar med lyckat slutförande.

Detta problem blir allt farligare inom finans, hälso- och sjukvård, energi och reglerade företagsverksamheter, där korrekthet inte är valfritt.

I takt med att system blir mer autonoma kan verifiering inte längre förbli en eftertanke. Tillförlitliga agentarkitekturer kräver i allt högre grad formella validerare, begränsningsspridning, lösningsintegration, policymotorer och lager för exekveringsverifiering.

Under ett verifieringsorienterat paradigm handlar planering inte bara om att bestämma vad man ska göra härnäst. Det handlar om att kontinuerligt verifiera om utförandet förblir giltigt genom hela processen.

De flesta moderna agentsystem resonerar som individer. Verkliga organisationer fungerar inte på det sättet. Företagsmiljöer är strukturerade kring roller, auktoritetsgränser, delegeringskedjor, skyldigheter, eskaleringsmekanismer och godkännandehierarkier.

En uppgift definieras ofta inte bara av: ”Vad ska göras?” utan också av: vem som får göra det, under vilka villkor, i vilken ordning och med vems godkännande.

Detta skapar en stor begränsning för många nuvarande agentarkitekturer.

Utan organisatoriskt resonemang kan autonoma system bryta mot auktoritetsgränser, kringgå godkännandeflöden, skapa motstridiga åtgärder eller generera operativa inkonsekvenser mellan avdelningar och aktörer.

Detta problem blir allt allvarligare i reglerade företagsmiljöer där organisationsstrukturen i sig är en del av regelefterlevnaden. Som ett resultat kan planering inte längre fokusera enbart på uppgifter och åtgärder. Den måste också resonera kring: organisatoriska roller, auktoritetsmodeller, delegeringsregler och institutionella begränsningar.

För att stödja organisatoriskt resonemang blir planering inte bara operativ samordning, utan organisatorisk samordning.

De flesta moderna agentsystem behandlar minne som ett hämtningsproblem. I praktiken är minnet betydligt mer komplext. Långvariga autonoma system måste hantera flera former av minne samtidigt – episodiskt minne, semantiskt minne, procedurellt minne och världstillståndsminne.

Många nuvarande arkitekturer förlitar sig dock främst på vektordatabaser, likhetssökning och komprimerad prompthistorik. Detta skapar allvarliga begränsningar i takt med att exekveringskedjor blir längre.

Ett system kan hämta relevant information samtidigt som det förlorar tidsmässig konsistens, glömmer tidigare åtaganden, upprepar handlingar eller arbetar utifrån föråldrade antaganden om världen. Problemet är inte bara att komma ihåg information.

Problemet är att upprätthålla driftskontinuitet över tid.

Allt eftersom autonoma system utvecklas kan minnet inte längre förbli ett passivt lagringslager. Det måste bli en aktiv operativ struktur. Det är här planering blir avgörande. En planerare fungerar som en strukturerad minneskonsument som kan:

• upprätthålla ett bestående världstillstånd,
• uppföljning av långsiktiga mål,
• bevara avrättningshistorik,
• och synkroniserar föränderligt sammanhang över tid.

Som en aktiv operativ struktur blir planering och minne djupt sammankopplade infrastrukturlager snarare än separata komponenter.

Den centrala utmaningen med agentisk AI formuleras ofta som ett intelligensproblem.

Kan modeller resonera bättre?
Kan de skapa bättre planer?
Kan de bli mer autonoma?

Men i takt med att agentsystem går från demoversioner till verkliga operativa miljöer framträder en annan verklighet.

De största flaskhalsarna är i allt högre grad:

• konsistens,
• verifiering,
• samordning,
• begränsningshantering,
• organisatoriskt resonemang,
• och långsiktig driftsstabilitet.

Moderna AI-system kan redan generera imponerande lokalt beteende.

Det de fortfarande kämpar med att upprätthålla är global sammanhållning över tid.