Lo strato mancante negli agenti di intelligenza artificiale moderni

I moderni sistemi di intelligenza artificiale non si limitano più a interazioni a singolo passaggio. In benchmark come SWE-Bench, WebArena, OSWorld e negli ambienti di programmazione autonoma, gli agenti possono eseguire centinaia di azioni sequenziali prima di raggiungere un obiettivo. Questo cambia radicalmente la natura del problema. 

Man mano che le catene di esecuzione si allungano, emergono diverse modalità di errore critiche:

• Propagazione dell'errore: Un piccolo errore di ragionamento nelle prime fasi dell'esecuzione può accumularsi in decine di passaggi successivi. Il sistema potrebbe allontanarsi dall'obiettivo originale, entrare in cicli di riparazione o concludere erroneamente che l'attività è completata.

• Deriva statale: Gli ambienti a lunga esecuzione cambiano continuamente, i file vengono aggiornati, le transazioni completate, le API si evolvono e gli utenti interagiscono con il sistema. Tuttavia, la maggior parte degli agenti attuali mantiene lo stato implicitamente attraverso la cronologia dei prompt e il contesto dei token. Nel tempo, questo crea una divergenza tra:

• Deviazione dall'obiettivo: Spesso gli agenti si concentrano eccessivamente sui sotto-compiti, perdendo l'allineamento con l'obiettivo originale. Con l'aumentare della complessità del compito, i sistemi possono ottimizzare le azioni locali, ripetere cicli non necessari o terminare prematuramente.
• Esaurimento del contesto: La maggior parte dei sistemi basati su agenti invia ripetutamente la cronologia di esecuzione alla finestra del contesto del modello. Man mano che le attività si allungano, l'utilizzo dei token aumenta vertiginosamente, la latenza cresce e i dettagli importanti vengono compressi o persi.

I sistemi a lunga esecuzione si trovano quindi ad affrontare non solo un problema di ragionamento, ma anche un problema di architettura della memoria.

È qui che la pianificazione diventa essenziale. Un pianificatore funge da livello di stabilità temporale responsabile di:

• preservando la coerenza dello stato mondiale,

• monitoraggio degli obiettivi a lungo termine,

• convalida delle transizioni,

• gestione delle dipendenze,

• e verificando continuamente i progressi.

Con l'aumentare dell'orizzonte temporale delle attività, la pianificazione smette di essere un semplice problema di ottimizzazione e diventa un problema di infrastruttura di coerenza. Tuttavia, il raggiungimento di tale coerenza richiede sistemi in grado di gestire non solo la coerenza temporale, ma anche le complesse regole e le migliaia di vincoli dell'ambiente operativo.

Uno dei maggiori punti deboli dei moderni sistemi ad agenti è l'esplosione dei vincoli. La maggior parte degli agenti basati su LLM cerca di "ricordare" i vincoli implicitamente all'interno del contesto del modello. Questo può funzionare per flussi di lavoro semplici.

Gli ambienti aziendali reali sono diversi. I processi operativi spesso coinvolgono migliaia di vincoli simultaneamente:

• Norme antiriciclaggio,
• Procedure KYC,
• gerarchie di approvazione,
• restrizioni sanzionatorie,
• matrici di autorità,
• politiche interne,
• dipendenze temporali.

Man mano che aumenta il numero di vincoli, il ragionamento probabilistico diventa sempre più instabile.

La sfida non consiste solo nel ricordare i vincoli.
Si tratta di mantenere la coerenza tra di loro.

Un sistema può generare azioni localmente plausibili pur essendo ancora:

• violando le norme,
• Violazione dell'ordine di approvazione,
• ignorando i limiti dell'autorità,
• o creando stati operativi non validi.

Ciò rivela una distinzione fondamentale:

Con l'aumentare dell'autonomia dei sistemi, la gestione dei vincoli non può più rimanere implicita nei prompt. I sistemi ad agenti affidabili richiedono sempre più motori di vincoli espliciti, validazione simbolica, integrazione con i risolutori e verifica formale delle transizioni. 

Con un'infrastruttura di pianificazione adeguata, la pianificazione non si riduce alla semplice sequenza di attività. Diventa una verifica continua dei vincoli. Tuttavia, questa sfida aumenta esponenzialmente quando al sistema si aggiungono più attori autonomi, trasformando la verifica continua dei vincoli in un problema di coordinamento sistemico.

Uno dei presupposti più comuni nell'IA moderna è che l'aggiunta di un numero maggiore di agenti generi automaticamente una maggiore intelligenza. In pratica, spesso accade il contrario. Con l'aumentare del numero di agenti, la complessità del coordinamento cresce rapidamente, dando luogo a obiettivi contrastanti, duplicazione del lavoro, aggiornamenti di stato incoerenti, deleghe circolari, deadlock e condizioni di competizione.

Senza un livello di pianificazione esplicito, i sistemi faticano a: sincronizzare l'esecuzione, far rispettare i confini dei ruoli, gestire le dipendenze e mantenere un comportamento organizzativo coerente.

Di conseguenza, molte architetture multi-agente diventano operativamente instabili all'aumentare delle dimensioni. È qui che la pianificazione diventa fondamentale. Un pianificatore fornisce: autorità di delega, ordinamento delle dipendenze, sincronizzazione e coordinamento globale delle attività.

All'interno di questa architettura coerente, la pianificazione non si riduce alla semplice scomposizione dei compiti. Diventa il meccanismo che preserva la coerenza a livello di sistema tra molteplici attori autonomi. Tuttavia, il mantenimento di questo coordinamento organizzativo e della coerenza a lungo termine si scontra con una debolezza infrastrutturale fondamentale degli attuali sistemi ad agenti: l'architettura della memoria.

I modelli linguistici moderni ragionano principalmente sulle parole. Le organizzazioni operano attraverso strutture. Gli ambienti aziendali reali si basano su entità, relazioni, obblighi, strutture di proprietà, catene di autorità e dipendenze operative.

Ad esempio, la domanda: "Questa azienda è rischiosa?" raramente è un problema puramente linguistico. Spesso si tratta di un problema di grafi che coinvolge:

• reti di azionisti,
• eventi storici,
• rapporti normativi,
• organizzazioni collegate,
• e contatti con dirigenti.

Ciò crea un divario fondamentale:

I LLM sono molto efficaci nell'interpretazione del testo,

Tuttavia, il processo decisionale aziendale richiede un ragionamento basato su una realtà operativa strutturata. Senza una solida base semantica, i sistemi basati su agenti potrebbero fraintendere il contesto organizzativo, ignorare le dipendenze nascoste, non cogliere i segnali di rischio relazionale o produrre decisioni incoerenti tra le entità connesse.

Per questo motivo, la pianificazione richiede sempre più spesso livelli semantici strutturati come grafi della conoscenza, relazioni tra entità, ontologie operative e ragionamento basato sui grafi.

Di conseguenza, la pianificazione non è più guidata solo da indicazioni, ma si fonda sulla struttura operativa effettiva dell'organizzazione stessa.

Uno dei punti deboli più critici dei moderni sistemi ad agenti è il divario di verifica. I modelli lineari di apprendimento (LLM) sono molto efficaci nel generare azioni, risposte e piani. Ma la sola generazione non basta. La maggior parte dei sistemi manca ancora di meccanismi affidabili per determinare:

• se un'azione è effettivamente valida,
• se i vincoli sono stati violati,
• se l'obiettivo sia stato effettivamente raggiunto,
• o se lo stato risultante rimane operativamente coerente.

Ciò crea una distinzione fondamentale:

Un sistema può produrre risultati plausibili pur violando le politiche aziendali, infrangendo le dipendenze, creando transizioni non valide o illudendosi di un completamento riuscito.

Questo problema diventa sempre più pericoloso nei settori della finanza, della sanità, dell'energia e delle attività aziendali regolamentate, dove la correttezza non è un'opzione, ma una necessità.

Con l'aumentare dell'autonomia dei sistemi, la verifica non può più essere considerata un aspetto secondario. Le architetture di agenti affidabili richiedono sempre più validatori formali, propagazione dei vincoli, integrazione dei risolutori, motori di policy e livelli di verifica dell'esecuzione.

In un paradigma basato sulla verifica, la pianificazione non consiste solo nel decidere cosa fare dopo, ma nel verificare continuamente che l'esecuzione rimanga valida durante l'intero processo.

La maggior parte dei moderni sistemi basati su agenti ragiona come individui. Le organizzazioni reali non funzionano in questo modo. Gli ambienti aziendali sono strutturati attorno a ruoli, limiti di autorità, catene di delega, obblighi, meccanismi di escalation e gerarchie di approvazione.

Un compito non è spesso definito solo da: "Cosa bisogna fare?" ma anche da: chi è autorizzato a farlo, a quali condizioni, in quale ordine e con l'approvazione di chi.

Ciò rappresenta una limitazione importante per molte architetture di agenti attualmente in uso.

In assenza di un ragionamento organizzativo, i sistemi autonomi possono violare i confini di autorità, eludere i flussi di approvazione, creare azioni contraddittorie o generare incoerenze operative tra dipartimenti e attori.

Questo problema si aggrava ulteriormente negli ambienti aziendali regolamentati, dove la struttura organizzativa stessa è parte integrante della conformità. Di conseguenza, la pianificazione non può più concentrarsi solo su compiti e azioni, ma deve anche considerare: ruoli organizzativi, modelli di autorità, regole di delega e vincoli istituzionali.

Per supportare il ragionamento organizzativo, la pianificazione diventa non solo coordinamento operativo, ma anche coordinamento organizzativo.

La maggior parte dei moderni sistemi ad agenti tratta la memoria come un problema di recupero. In pratica, la memoria è molto più complessa. I sistemi autonomi a lungo termine devono gestire simultaneamente diverse forme di memoria: memoria episodica, memoria semantica, memoria procedurale e memoria dello stato del mondo.

Tuttavia, molte architetture attuali si basano principalmente su database vettoriali, ricerca di similarità e cronologia di prompt compressa. Ciò crea serie limitazioni man mano che le catene di esecuzione si allungano.

Un sistema può recuperare informazioni rilevanti pur perdendo coerenza temporale, dimenticando impegni precedenti, ripetendo azioni o operando sulla base di presupposti obsoleti. Il problema non è solo la memorizzazione delle informazioni.

Il problema è mantenere la continuità operativa nel tempo.

Con l'evoluzione dei sistemi autonomi, la memoria non può più rimanere un semplice strato di archiviazione passivo. Deve diventare una struttura operativa attiva. È qui che la pianificazione diventa fondamentale. Un pianificatore agisce come un consumatore di memoria strutturato in grado di:

• mantenendo uno stato mondiale persistente,
• monitoraggio degli obiettivi a lungo termine,
• preservando la cronologia delle esecuzioni,
• e sincronizzando il contesto in evoluzione nel tempo.

In quanto struttura operativa attiva, la pianificazione e la memoria diventano strati infrastrutturali profondamente interconnessi anziché componenti separate.

La sfida centrale dell'intelligenza artificiale agentiva viene spesso inquadrata come un problema di intelligenza.

I modelli possono ragionare meglio?
Riusciranno a elaborare piani migliori?
Possono diventare più autonomi?

Ma quando i sistemi basati su agenti passano dalle dimostrazioni agli ambienti operativi reali, emerge una realtà diversa.

I principali colli di bottiglia sono sempre più:

• consistenza,
• verifica,
• coordinazione,
• gestione dei vincoli,
• ragionamento organizzativo,
• e stabilità operativa a lungo termine.

I moderni sistemi di intelligenza artificiale sono già in grado di generare comportamenti locali impressionanti.

Ciò che ancora faticano a mantenere è la coerenza globale nel tempo.