Το Λείπον Επίπεδο στην Πρακτική Τεχνητή Νοημοσύνη

Τα περισσότερα σύγχρονα συστήματα πρακτόρων αντιμετωπίζουν το περιβάλλον κυρίως ως ιστορικό συνομιλιών, ανακτημένα έγγραφα ή αποτελέσματα ομοιότητας διανυσμάτων. Αυτή η προσέγγιση λειτουργεί αρκετά καλά για εργασίες συνομιλίας, αλλά τα λειτουργικά συστήματα απαιτούν έναν θεμελιωδώς διαφορετικό τύπο διαχείρισης περιβάλλοντος.

Σε πραγματικά περιβάλλοντα, οι αποφάσεις δεν εξαρτώνται μόνο από τις ανακτημένες πληροφορίες, αλλά και από:

• σχέσεις οντοτήτων,
• οργανωτική δομή,
• χρονικά γεγονότα,
• αλυσίδες ιδιοκτησίας, 
• προηγούμενες αποφάσεις,
• ενεργοί περιορισμοί,
• και συνεχώς εξελισσόμενη λειτουργική κατάσταση [1]. 

Ένας πελάτης δεν είναι απλώς ένα έγγραφο. Μια εταιρεία δεν είναι απλώς ένα κομμάτι κειμένου. Ένα κανονιστικό συμβάν δεν είναι απλώς ένα ακόμη αποτέλεσμα ανάκτησης. Τα λειτουργικά συστήματα απαιτούν ένα συνεχώς εξελισσόμενο μοντέλο κατάστασης. Εδώ είναι που η διάκριση μεταξύ μνήμης και λειτουργικού πλαισίου καθίσταται κρίσιμη.

Η μνήμη αποθηκεύει πληροφορίες. Το λειτουργικό πλαίσιο διατηρεί την κατάσταση του συστήματος.

Στην πράξη, αυτό σημαίνει ότι το σύστημα πρέπει να διατηρεί και να ενημερώνει συνεχώς δομές όπως οντότητες, σχέσεις, χρονικές αλυσίδες γεγονότων, συνδέσεις πολιτικής και ιστορικό εκτέλεσης. Αυτός είναι ένας από τους λόγους για τους οποίους οι προσεγγίσεις που βασίζονται σε γράφους αποκτούν ολοένα και μεγαλύτερη σημασία στα συστήματα πρακτόρων.

Ένα γράφημα δεν είναι μόνο χρήσιμο για ανάκτηση. Παρέχει μια αναπαράσταση της λειτουργικής κατάστασης κατά τον χρόνο εκτέλεσης. Αντί να αντιμετωπίζει το περιβάλλον ως μεμονωμένα τμήματα κειμένου, το σύστημα μπορεί να συλλογιστεί πάνω σε συνδεδεμένες οντότητες, εξελισσόμενες σχέσεις, χρονικές εξαρτήσεις και διαδρομές διάδοσης περιβάλλοντος. Αυτό αλλάζει εντελώς τον ρόλο του γραφήματος. Το γράφημα παύει να είναι ένα επίπεδο αποθήκευσης και γίνεται:

• μνήμη με βάση τα συμφραζόμενα,
• επιχειρησιακή εκπροσώπηση του κράτους,

• και το πλαίσιο εκτέλεσης για συστήματα αποφάσεων.

  

  Καθώς τα συστήματα πρακτόρων κινούνται προς αυτόνομες λειτουργίες, αυτή η διάκριση αποκτά ολοένα και μεγαλύτερη σημασία. Επειδή η αυτόνομη εκτέλεση απαιτεί όχι μόνο ανάκτηση πληροφοριών, αλλά και συνεχή διαχείριση κατάστασης με βάση τα συμφραζόμενα [4].

Φανταστείτε έναν εκπρόσωπο επίλυσης διαφορών που χειρίζεται ένα αίτημα αντιστροφής χρέωσης. Ο πελάτης ισχυρίζεται ότι μια συναλλαγή ήταν δόλια. Η συναλλαγή πραγματοποιήθηκε από μια αξιόπιστη συσκευή. Ο έμπορος έχει βαθμολογία χαμηλού κινδύνου. Επιφανειακά, η υπόθεση φαίνεται απλή. Αλλά η συναλλαγή πραγματοποιήθηκε λίγο μετά από μια ασυνήθιστη επαναφορά κωδικού πρόσβασης, ο πελάτης άλλαξε πρόσφατα τη συσκευή του και η πολιτική απάτης της τράπεζας απαιτεί κλιμάκωση της διαδικασίας όταν εμφανίζονται πολλά αδύναμα σήματα μαζί μέσα σε ένα σύντομο χρονικό διάστημα.

Σε αυτό το σημείο, η πολιτική δεν μπορεί να παραμείνει σε PDF. Πρέπει να γίνει μέρος του υποστρώματος συλλογισμού.

Σε ένα σύστημα λειτουργικών πρακτόρων, οι πολιτικές δεν θα πρέπει να ανακτώνται μόνο ως κείμενο αφού το LLM έχει ήδη σχηματίσει μια απάντηση. Πρέπει να περιορίζουν ενεργά την εκτέλεση: εμποδίζοντας ορισμένες ενέργειες, ενεργοποιώντας κλιμακώσεις, αλλάζοντας διαδρομές έγκρισης, απαιτώντας πρόσθετα αποδεικτικά στοιχεία ή αποτρέποντας την αυτοματοποιημένη επίλυση. Αυτή η ιδέα σχετίζεται στενά με προηγούμενες προσεγγίσεις σχεδιασμού που βασίζονται σε πολιτικές, όπου η εκτέλεση διαμορφώνεται συνεχώς από περιορισμούς, στόχους και περιβαλλοντικές συνθήκες και όχι από μεμονωμένη λογική ολοκλήρωσης εργασιών [6].

Εδώ είναι που το λειτουργικό πλαίσιο που βασίζεται σε γραφήματα καθίσταται κρίσιμο.

Το γράφημα αντιπροσωπεύει την κατάσταση της διαφοράς: πελάτης, λογαριασμός, συναλλαγή, έμπορος, συσκευή, συμβάν επαναφοράς κωδικού πρόσβασης, δείκτες απάτης, προηγούμενες αποφάσεις, κανόνες πολιτικής και ιστορικό εκτέλεσης. Οι πολιτικές συνδέονται στη συνέχεια με αυτό το γράφημα ως εκτελέσιμοι περιορισμοί και όχι ως μεμονωμένα έγγραφα. Από πολλές απόψεις, αυτό μοιάζει με την εξέλιξη των περιβαλλόντων εκτέλεσης πολλαπλών πρακτόρων, όπου οι ευφυείς οντότητες συντονίζονται μέσω μιας συνεχώς κοινόχρηστης λειτουργικής κατάστασης και όχι μέσω μεμονωμένων ανταλλαγών μηνυμάτων [4].

Ένα επίπεδο συλλογισμού μπορεί να λειτουργήσει πάνω σε αυτό το γράφημα χρησιμοποιώντας μηχανισμούς που βασίζονται σε κανόνες ή λογική και προέρχονται από προγενέστερα συστήματα λογικού προγραμματισμού και παραγωγικών βάσεων δεδομένων [8]. Για παράδειγμα, ένας κανόνας τύπου Datalog μπορεί να εκφράσει ότι μια διαφωνία πρέπει να κλιμακωθεί εάν μια αμφισβητούμενη συναλλαγή ακολουθεί επαναφορά κωδικού πρόσβασης, περιλαμβάνει μια νέα συσκευή και υπερβαίνει ένα όριο κινδύνου — μια προσέγγιση που ευθυγραμμίζεται εννοιολογικά με τα κλασικά συστήματα παραγωγικής συλλογιστικής και τις μηχανές λογικής βάσεων δεδομένων [9].

Ο LLM μπορεί να ερμηνεύσει την περίπτωση, να εξηγήσει την απόφαση και να αλληλεπιδράσει με τους χρήστες, αλλά η ίδια η συνθήκη της πολιτικής αξιολογείται ντετερμινιστικά μέσω του γραφήματος.

Σε αυτήν την αρχιτεκτονική, η μηχανή γραφημάτων γίνεται το λειτουργικό υπόστρωμα, ενώ το επίπεδο συλλογισμού αξιολογεί περιορισμούς, υποχρεώσεις, δικαιώματα και εξαρτήσεις σε σχέση με την τρέχουσα κατάσταση. Αυτός ο διαχωρισμός μεταξύ πιθανοτικής συλλογιστικής και περιορισμένης εκτέλεσης απηχεί επίσης προηγούμενα μοντέλα πρακτόρων που βασίζονται σε BDI, όπου η έξυπνη συμπεριφορά προκύπτει όχι μόνο από στόχους, αλλά και από συνεχώς διατηρούμενες πεποιθήσεις, προθέσεις, υποχρεώσεις και περιορισμούς εκτέλεσης (Rao & Georgeff, 1995).

Η αλλαγή κλειδιού 

Αυτό επιτρέπει σε έναν αυτόνομο φορέα επίλυσης διαφορών να συλλογίζεται όχι μόνο για το τι συνέβη, αλλά και για το τι επιτρέπεται, απαιτείται, μπλοκάρεται ή κλιμακώνεται σε κάθε βήμα εκτέλεσης.

Μόλις το πλαίσιο γίνει μια συνεχώς εξελισσόμενη λειτουργική κατάσταση και οι πολιτικές γίνουν εκτελέσιμοι περιορισμοί, η επόμενη πρόκληση είναι η ίδια η εκτέλεση αποφάσεων.

Σε αυτό το στάδιο, το πρόβλημα δεν είναι πλέον η ανάκτηση. Γίνεται έλεγχος αποφάσεων κατά τον χρόνο εκτέλεσης. Τα περισσότερα τρέχοντα συστήματα πρακτόρων εξακολουθούν να λειτουργούν ως συστήματα δημιουργίας ενεργειών: ανάκτηση περιεχομένου, συλλογισμός βάσει αυτού, δημιουργία μιας ενέργειας, εκτέλεση του αποτελέσματος. Αλλά τα λειτουργικά συστήματα απαιτούν ένα επιπλέον επίπεδο μεταξύ συλλογισμού και εκτέλεσης: μια περιορισμένη αγωγό λήψης αποφάσεων.

Αυτή η διάκριση είναι κρίσιμη επειδή τα λειτουργικά περιβάλλοντα σπάνια περιέχουν μία μόνο έγκυρη ενέργεια. Αντίθετα, περιέχουν:

• εφικτές ενέργειες,
• απαγορευμένες πράξεις,
• κλιμακούμενες ενέργειες,
• καθυστερημένες ενέργειες,
• και ενέργειες που επιτρέπονται υπό όρους.

Ο ρόλος του συστήματος δεν είναι επομένως μόνο να δημιουργεί ενέργειες, αλλά και να τις φιλτράρει και να τις επικυρώνει συνεχώς υπό περιορισμούς χρόνου εκτέλεσης. Ένας απλοποιημένος αγωγός μοιάζει όλο και περισσότερο με αυτό: 

Αυτό αλλάζει τον ρόλο πολλών στοιχείων στη στοίβα. Το γράφημα δεν χρησιμοποιείται πλέον μόνο για ανάκτηση. Γίνεται η λειτουργική κατάσταση εκτέλεσης του συστήματος. 

Οι πολιτικές δεν αποτελούν πλέον στατική τεκμηρίωση. Γίνονται εκτελέσιμοι περιορισμοί χρόνου εκτέλεσης που αξιολογούνται κατά τη δημιουργία αποφάσεων. Ο σχεδιαστής δεν αλληλουχεί πλέον απλώς εργασίες. Γίνεται υπεύθυνος για τη δημιουργία λειτουργικά εφικτών ενεργειών υπό ενεργούς περιορισμούς.

Αυτή η διάκριση είναι σημαντική επειδή πολλές λειτουργικές αποτυχίες δεν προέρχονται από ελλείπουσες πληροφορίες. Προέρχονται από μη έγκυρη επιλογή ενέργειας υπό μεταβαλλόμενες συνθήκες.

Για παράδειγμα:

• μια ενέργεια μπορεί να παραβιάζει τα όρια μιας εξουσίας,
• σύγκρουση με έναν ενεργό κανόνα συμμόρφωσης,
• ενεργοποίηση μιας μη έγκυρης ακολουθίας διεργασιών,
• ή να δημιουργήσουν λειτουργικό κίνδυνο κατάντη.

Σε αυτές τις περιπτώσεις, το πρόβλημα δεν είναι η αποτυχία της νοημοσύνης. Είναι μια αποτυχία περιορισμών. Αυτός είναι ο λόγος για τον οποίο ο περιορισμένος σχεδιασμός αποκτά ολοένα και μεγαλύτερη σημασία στα αυτόνομα συστήματα.

Αντί να εκτελεί απευθείας παραγόμενες ενέργειες, το σύστημα πρέπει:

• αξιολογούν τη σκοπιμότητα,
• κλαδέψτε άκυρες διαδρομές,
• εφαρμόστε περιορισμούς χρόνου εκτέλεσης,
• εντοπισμός συγκρούσεων,
• και να δημιουργούν εναλλακτικές διαδρομές εκτέλεσης όταν είναι απαραίτητο.

Εννοιολογικά, αυτό φέρνει τα σύγχρονα συστήματα πρακτόρων πιο κοντά στα κλασικά συστήματα σχεδιασμού από ό,τι στις παραδοσιακές αρχιτεκτονικές τεχνητής νοημοσύνης με βάση τη συζήτηση.

Προσεγγίσεις όπως:

• GraphPlan,
• συστήματα ικανοποίησης περιορισμών,
• ευρετική αναζήτηση,
• Παραλλαγές A*,
• και αλγόριθμοι δυναμικού επανασχεδιασμού

αποκτούν ξανά σημασία όταν τα συστήματα λειτουργούν υπό συνεχώς μεταβαλλόμενες συνθήκες εκτέλεσης.

Ωστόσο, σε αντίθεση με τους κλασικούς σχεδιαστές, τα σύγχρονα λειτουργικά συστήματα περιέχουν επίσης πιθανοτική σημασιολογική ερμηνεία, μη δομημένες εισόδους, εξελισσόμενο περιβάλλον γραφήματος και δυναμικά μεταβαλλόμενες πολιτικές.

Ως αποτέλεσμα, η αναδυόμενη αρχιτεκτονική δεν είναι ούτε καθαρά συμβολική ούτε καθαρά πιθανοτική. Γίνεται ένα υβριδικό μοντέλο εκτέλεσης όπου οι LLM ερμηνεύουν, τα γραφήματα διατηρούν την λειτουργική κατάσταση, οι περιορισμοί ορίζουν τα όρια εκτέλεσης και οι σχεδιαστές δημιουργούν εφικτές ενέργειες εντός αυτών των ορίων.

Αυτός ο διαχωρισμός είναι σημαντικός επειδή επιτρέπει στα αυτόνομα συστήματα να παραμένουν ευέλικτα χωρίς να χάνουν τον επιχειρησιακό έλεγχο. Ο στόχος δεν είναι η εξάλειψη της πιθανοτικής νοημοσύνης.

Ο στόχος είναι να αποτραπεί η πιθανοτική συλλογιστική από το να ελέγχει άμεσα την εκτέλεση των λειτουργιών χωρίς ντετερμινιστικά επίπεδα επικύρωσης γύρω από αυτήν.

Μόλις το λειτουργικό πλαίσιο, οι περιορισμοί εκτέλεσης και ο προγραμματισμός με περιορισμούς γίνουν μέρος του ίδιου του χρόνου εκτέλεσης, η αυτόνομη εκτέλεση παύει να είναι ένα απλό πρόβλημα ενορχήστρωσης. Το σύστημα λειτουργεί συνεχώς σε μια μεταβαλλόμενη λειτουργική κατάσταση: οι οντότητες εξελίσσονται, οι σχέσεις αλλάζουν, οι περιορισμοί ενεργοποιούνται ή λήγουν και η δυνατότητα εκτέλεσης μεταβάλλεται με την πάροδο του χρόνου.

Υπό αυτές τις συνθήκες, η εκτέλεση δεν μπορεί πλέον να εξαρτάται αποκλειστικά από τα παραγόμενα αποτελέσματα. Το σύστημα πρέπει να επανεκτιμά συνεχώς το πλαίσιο, να επικυρώνει τους περιορισμούς, να προσαρμόζει τα σχέδια και να διατηρεί τη λειτουργική συνέπεια σε μεταβαλλόμενες συνθήκες.

Αυτό καθίσταται ακόμη πιο κρίσιμο καθώς τα συστήματα πρακτόρων μετακινούνται πέρα ​​από τις βραχύβιες ροές εργασίας προς μακροχρόνιες, στοχοκεντρικές λειτουργίες. Σε αυτά τα περιβάλλοντα, οι στόχοι παραμένουν, πολλαπλοί πράκτορες αλληλεπιδρούν, τα οργανωτικά όρια έχουν σημασία και οι διαδρομές εκτέλεσης εξελίσσονται δυναμικά κατά τη διάρκεια του χρόνου εκτέλεσης.

Ως αποτέλεσμα, ο σχεδιασμός παύει να είναι μια εφάπαξ εργασία και γίνεται μια συνεχής λειτουργική διαδικασία. Εδώ είναι που η λειτουργική κατάσταση που βασίζεται σε γραφήματα, οι εκτελέσιμες πολιτικές και ο σχεδιασμός με επίγνωση περιορισμών αρχίζουν να συγκλίνουν σε μια νέα αρχιτεκτονική χρόνου εκτέλεσης για αυτόνομα συστήματα.

Και με την πάροδο του χρόνου, αυτή η αρχιτεκτονική πιθανότατα θα εισαγάγει μια νέα γενιά λειτουργικών αντικειμένων:

• επίμονοι στόχοι εμπνευσμένοι από προσεγγίσεις μηχανικής απαιτήσεων προσανατολισμένες στους στόχους, όπως το KAOS [10],
• εκτελέσιμοι οργανωτικοί ρόλοι και αρμοδιότητες παρόμοιες με την οργανωτική μοντελοποίηση ρόλων της Gaia για συστήματα πολλαπλών πρακτόρων [11],
• προσαρμοστικές δομές συντονισμού που μοιάζουν με οργανωτικές προσεγγίσεις MAS όπως το MOISE+ [12],
•  και οργανωτικά πρότυπα χρόνου εκτέλεσης για συστήματα πολλαπλών πρακτόρων μακροπρόθεσμου ορίζοντα που διερευνώνται στην οργανωσιακή λογική και την έρευνα προσαρμοστικών πολυοργανωτικών συστημάτων [13][14].

Η επόμενη γενιά συστημάτων τεχνητής νοημοσύνης για επιχειρήσεις μπορεί επομένως να οριστεί όχι από τον αριθμό των ενεργειών που μπορούν να δημιουργήσουν, αλλά από το πόσο αξιόπιστα μπορούν να διατηρήσουν συντονισμένη στοχοκεντρική συμπεριφορά υπό συνεχώς μεταβαλλόμενους περιορισμούς.

1. Hogan, A., Blomqvist, E., Cochez, M., κ.ά. Γραφήματα Γνώσης. Έρευνες Υπολογιστικής ACM, 2021.

2. Edge, D., et al. Από το τοπικό στο παγκόσμιο: Μια προσέγγιση GraphRAG για σύνοψη εστιασμένη σε ερωτήματα. arXiv, 2024.

3. Nii, HP, Το μοντέλο Blackboard για την επίλυση προβλημάτων και η εξέλιξη των αρχιτεκτονικών Blackboard. Περιοδικό AI, 1986.

4. Wooldridge, M. Εισαγωγή στα Συστήματα Πολυπρακτορείων. Wiley, 2009.

5. Ferber, J. Συστήματα Πολλαπλών Πράκτορων: Εισαγωγή στην Κατανεμημένη Τεχνητή Νοημοσύνη. Addison-Wesley, 1999.

6. Myers, KL Προς ένα Πλαίσιο για Συνεχή Σχεδιασμό και Εκτέλεση. AAAI, 1999.

7. Rao, AS, Georgeff, MP Πράκτορες BDI: Από τη Θεωρία στην Πράξη. ICMAS, 1995.

8. Ceri, S., Gottlob, G., Tanca, L. Λογικός Προγραμματισμός και Βάσεις Δεδομένων. Springer, 1990.

9. Abiteboul, S., Hull, R., Vianu, V. Θεμέλια των Βάσεων Δεδομένων. Addison-Wesley, 1995.

[10]. van Lamsweerde, A. (2001). Μηχανική Απαιτήσεων με Επίκεντρο τον Στόχο: Μια Ξενάγηση.

[11] Wooldridge, M., Jennings, NR, & Kinny, D. (2000). Η μεθοδολογία Gaia για ανάλυση και σχεδιασμό προσανατολισμένο σε πράκτορες.

[12] Hannoun, M., Sichman, JS, Boissier, O., & Sayettat, C. (2000). MOISE: Ένα οργανωτικό μοντέλο για συστήματα πολλαπλών πρακτόρων.

[14] Dignum, V., & Dignum, F. (2018). Ο Ρόλος των Οργανωτικών Μοντέλων σε Συστήματα Πράκτορων.

[15] Tamersoy, M., Ekinci, EE, Erdur, RC, & Dikenelli, O. (2017). Ένα Μοντέλο Απαιτήσεων για Προσαρμοστικά Πολυοργανωτικά Συστήματα. SASO 2017.