Lớp còn thiếu trong Trí tuệ nhân tạo tác nhân

Hầu hết các hệ thống tác nhân hiện nay xử lý ngữ cảnh chủ yếu dựa trên lịch sử hội thoại, tài liệu đã truy xuất hoặc kết quả so sánh độ tương đồng vectơ. Cách tiếp cận này hoạt động khá tốt đối với các tác vụ hội thoại, nhưng các hệ thống vận hành đòi hỏi một kiểu quản lý ngữ cảnh hoàn toàn khác.

Trong môi trường thực tế, các quyết định không chỉ phụ thuộc vào thông tin thu thập được, mà còn phụ thuộc vào:

• mối quan hệ thực thể,
• cấu trúc tổ chức,
• các sự kiện theo thời gian,
• chuỗi sở hữu, 
• các quyết định trước đó,
• các ràng buộc chủ động,
• và trạng thái hoạt động liên tục phát triển [1]. 

Khách hàng không chỉ là một tài liệu. Công ty không chỉ là một đoạn văn bản. Một sự kiện pháp lý không chỉ đơn thuần là một kết quả truy xuất khác. Hệ thống vận hành yêu cầu một mô hình trạng thái liên tục phát triển. Đây là lúc sự khác biệt giữa bộ nhớ và ngữ cảnh vận hành trở nên vô cùng quan trọng.

Bộ nhớ lưu trữ thông tin. Ngữ cảnh hoạt động duy trì trạng thái hệ thống.

Trên thực tế, điều này có nghĩa là hệ thống phải liên tục duy trì và cập nhật các cấu trúc như thực thể, mối quan hệ, chuỗi sự kiện theo thời gian, ràng buộc chính sách và lịch sử thực thi. Đây là một trong những lý do tại sao các phương pháp dựa trên đồ thị ngày càng trở nên quan trọng trong các hệ thống tác tử.

Đồ thị không chỉ hữu ích cho việc truy xuất thông tin. Nó cung cấp một biểu diễn thời gian thực của trạng thái hoạt động. Thay vì coi ngữ cảnh như những đoạn văn bản riêng lẻ, hệ thống có thể suy luận trên các thực thể được kết nối, các mối quan hệ đang phát triển, sự phụ thuộc theo thời gian và các đường dẫn lan truyền ngữ cảnh. Điều này thay đổi hoàn toàn vai trò của đồ thị. Đồ thị không còn là một lớp lưu trữ mà trở thành:

• trí nhớ theo ngữ cảnh,
• Biểu diễn trạng thái hoạt động,

• và bối cảnh thực thi cho các hệ thống ra quyết định.

  

  Khi các hệ thống tác nhân chuyển sang hoạt động tự chủ, sự phân biệt này ngày càng trở nên quan trọng. Bởi vì việc thực thi tự chủ không chỉ yêu cầu truy xuất thông tin mà còn yêu cầu quản lý trạng thái ngữ cảnh liên tục[4].

Hãy tưởng tượng một nhân viên giải quyết tranh chấp đang xử lý yêu cầu hoàn tiền. Khách hàng cho rằng giao dịch đó là gian lận. Giao dịch được thực hiện từ một thiết bị đáng tin cậy. Người bán có điểm rủi ro thấp. Thoạt nhìn, vụ việc có vẻ đơn giản. Nhưng giao dịch xảy ra ngay sau khi khách hàng đặt lại mật khẩu bất thường, khách hàng vừa mới thay đổi thiết bị và chính sách chống gian lận của ngân hàng yêu cầu phải chuyển vụ việc lên cấp cao hơn khi nhiều tín hiệu yếu xuất hiện cùng lúc trong một khoảng thời gian ngắn.

Ở giai đoạn này, chính sách không thể chỉ dừng lại ở dạng PDF. Nó phải trở thành một phần của nền tảng lập luận.

Trong một hệ thống tác nhân vận hành, các chính sách không nên chỉ được truy xuất dưới dạng văn bản sau khi LLM đã hình thành câu trả lời. Chúng phải chủ động hạn chế việc thực thi: chặn một số hành động nhất định, kích hoạt leo thang, thay đổi đường dẫn phê duyệt, yêu cầu bằng chứng bổ sung hoặc ngăn chặn giải quyết tự động. Ý tưởng này có liên quan chặt chẽ đến các phương pháp lập kế hoạch dựa trên chính sách trước đây, trong đó việc thực thi được định hình liên tục bởi các ràng buộc, mục tiêu và điều kiện môi trường chứ không phải logic hoàn thành nhiệm vụ riêng lẻ [6].

Đây là lúc bối cảnh hoạt động dựa trên đồ thị trở nên vô cùng quan trọng.

Đồ thị này thể hiện trạng thái tranh chấp: khách hàng, tài khoản, giao dịch, người bán, thiết bị, sự kiện đặt lại mật khẩu, chỉ báo gian lận, quyết định trước đó, quy tắc chính sách và lịch sử thực thi. Sau đó, các chính sách được kết nối với đồ thị này dưới dạng các ràng buộc có thể thực thi, chứ không phải là các tài liệu riêng lẻ. Theo nhiều cách, điều này giống với sự phát triển của môi trường thực thi đa tác nhân, nơi các thực thể thông minh phối hợp thông qua trạng thái hoạt động được chia sẻ liên tục thay vì trao đổi thông điệp riêng lẻ [4].

Một lớp suy luận có thể hoạt động trên đồ thị này bằng cách sử dụng các cơ chế dựa trên quy tắc hoặc logic được lấy từ lập trình logic trước đó và các hệ thống cơ sở dữ liệu suy diễn [8]. Ví dụ, một quy tắc giống Datalog có thể thể hiện rằng tranh chấp phải được leo thang nếu một giao dịch bị tranh chấp diễn ra sau khi đặt lại mật khẩu, liên quan đến một thiết bị mới và vượt quá ngưỡng rủi ro — một cách tiếp cận phù hợp về mặt khái niệm với các hệ thống suy luận diễn dịch cổ điển và các công cụ logic cơ sở dữ liệu [9].

Mô hình LLM có thể diễn giải trường hợp, giải thích quyết định và tương tác với người dùng, nhưng bản thân điều kiện chính sách được đánh giá một cách xác định trên đồ thị.

Trong kiến ​​trúc này, bộ xử lý đồ thị trở thành nền tảng hoạt động, trong khi lớp suy luận đánh giá các ràng buộc, nghĩa vụ, quyền hạn và sự phụ thuộc vào trạng thái hiện tại. Sự tách biệt giữa suy luận xác suất và thực thi có ràng buộc này cũng phản ánh các mô hình tác nhân dựa trên BDI trước đó, trong đó hành vi thông minh xuất hiện không chỉ từ mục tiêu mà còn từ niềm tin, ý định, nghĩa vụ và các ràng buộc thực thi được duy trì liên tục (Rao & Georgeff, 1995).

Sự thay đổi quan trọng 

Điều này cho phép một tác nhân giải quyết tranh chấp tự động suy luận không chỉ về những gì đã xảy ra, mà còn về những gì được cho phép, yêu cầu, bị chặn hoặc được leo thang ở mỗi bước thực thi.

Khi bối cảnh trở thành một trạng thái hoạt động liên tục phát triển và các chính sách trở thành những ràng buộc có thể thực thi, thách thức tiếp theo chính là việc thực thi quyết định.

Ở giai đoạn này, vấn đề không còn là việc truy xuất thông tin nữa. Nó trở thành việc kiểm soát quyết định trong quá trình thực thi. Hầu hết các hệ thống tác nhân hiện nay vẫn hoạt động như các hệ thống tạo hành động: truy xuất ngữ cảnh, suy luận dựa trên ngữ cảnh đó, tạo ra hành động, thực thi kết quả. Nhưng các hệ thống vận hành yêu cầu một lớp bổ sung giữa suy luận và thực thi: một quy trình quyết định có ràng buộc.

Sự phân biệt này rất quan trọng vì môi trường hoạt động hiếm khi chỉ chứa một hành động hợp lệ duy nhất. Thay vào đó, chúng chứa:

• các hành động khả thi,
• các hành vi bị cấm,
• các hành động leo thang,
• hành động bị trì hoãn,
• và các hành động được cho phép có điều kiện.

Do đó, vai trò của hệ thống không chỉ là tạo ra các hành động, mà còn là liên tục lọc và xác thực chúng trong điều kiện hoạt động thực tế. Một quy trình đơn giản hóa ngày càng trông như thế này: 

Điều này làm thay đổi vai trò của một số thành phần trong ngăn xếp. Đồ thị không còn chỉ được sử dụng để truy xuất thông tin nữa. Nó trở thành trạng thái hoạt động thực thi của hệ thống. 

Các chính sách không còn là tài liệu tĩnh nữa. Chúng trở thành các ràng buộc có thể thực thi trong thời gian chạy, được đánh giá trong quá trình ra quyết định. Công cụ lập kế hoạch không còn đơn thuần là sắp xếp thứ tự các nhiệm vụ. Nó chịu trách nhiệm tạo ra các hành động khả thi về mặt vận hành trong điều kiện ràng buộc đang hoạt động.

Sự phân biệt này rất quan trọng vì nhiều lỗi vận hành không bắt nguồn từ việc thiếu thông tin. Chúng bắt nguồn từ việc lựa chọn hành động không hợp lý trong điều kiện thay đổi.

Ví dụ:

• Một hành động có thể vi phạm ranh giới quyền hạn.
• xung đột với quy tắc tuân thủ hiện hành,
• kích hoạt một chuỗi quy trình không hợp lệ,
• hoặc tạo ra rủi ro vận hành ở khâu sau.

Trong những trường hợp này, vấn đề không phải là sự thất bại về trí tuệ, mà là sự thất bại về ràng buộc. Đó là lý do tại sao lập kế hoạch có ràng buộc ngày càng trở nên quan trọng trong các hệ thống tự động.

Thay vì trực tiếp thực thi các hành động được tạo ra, hệ thống phải:

• đánh giá tính khả thi,
• Loại bỏ các đường dẫn không hợp lệ.
• áp dụng các ràng buộc trong thời gian chạy,
• phát hiện xung đột,
• và tạo ra các đường dẫn thực thi thay thế khi cần thiết.

Về mặt khái niệm, điều này đưa các hệ thống tác nhân hiện đại đến gần hơn với các hệ thống lập kế hoạch cổ điển so với các kiến ​​trúc trí tuệ nhân tạo đàm thoại truyền thống.

Các phương pháp tiếp cận như sau:

• GraphPlan,
• hệ thống thỏa mãn ràng buộc,
• tìm kiếm heuristic,
• Các biến thể A*,
• và các thuật toán lập kế hoạch lại động

Chúng sẽ trở nên quan trọng trở lại khi các hệ thống hoạt động trong điều kiện thời gian thực liên tục thay đổi.

Tuy nhiên, không giống như các hệ thống lập kế hoạch cổ điển, các hệ thống vận hành hiện đại còn bao gồm cả diễn giải ngữ nghĩa xác suất, đầu vào không cấu trúc, ngữ cảnh đồ thị phát triển và các chính sách thay đổi động.

Do đó, kiến ​​trúc mới nổi không hoàn toàn mang tính biểu tượng cũng không hoàn toàn mang tính xác suất. Nó trở thành một mô hình thực thi lai, trong đó các mô hình LLM diễn giải, đồ thị duy trì trạng thái hoạt động, các ràng buộc xác định ranh giới thực thi và các bộ lập kế hoạch tạo ra các hành động khả thi trong các ranh giới đó.

Sự tách biệt này rất quan trọng vì nó cho phép các hệ thống tự chủ duy trì tính linh hoạt mà không mất đi khả năng kiểm soát hoạt động. Mục tiêu không phải là loại bỏ trí thông minh xác suất.

Mục tiêu là ngăn chặn việc suy luận xác suất trực tiếp chi phối quá trình thực thi vận hành mà không có các lớp xác thực mang tính xác định bao quanh nó.

Khi bối cảnh vận hành, các ràng buộc có thể thực thi và lập kế hoạch có ràng buộc trở thành một phần của chính quá trình thực thi, việc thực thi tự động không còn là một vấn đề điều phối đơn giản nữa. Hệ thống liên tục hoạt động trên một trạng thái vận hành thay đổi: các thực thể phát triển, các mối quan hệ thay đổi, các ràng buộc được kích hoạt hoặc hết hạn, và tính khả thi của việc thực thi thay đổi theo thời gian.

Trong những điều kiện này, việc thực thi không thể chỉ dựa vào các kết quả đầu ra được tạo ra. Hệ thống phải liên tục đánh giá lại bối cảnh, xác thực các ràng buộc, điều chỉnh kế hoạch và duy trì tính nhất quán trong hoạt động bất chấp các điều kiện thay đổi.

Điều này càng trở nên quan trọng hơn khi các hệ thống tác nhân chuyển từ các quy trình công việc ngắn hạn sang các hoạt động dài hạn, hướng đến mục tiêu. Trong môi trường này, mục tiêu tồn tại lâu dài, nhiều tác nhân tương tác, ranh giới tổ chức có vai trò quan trọng và các đường dẫn thực thi phát triển năng động trong suốt thời gian chạy.

Do đó, việc lập kế hoạch không còn là một nhiệm vụ thực hiện một lần mà trở thành một quy trình vận hành liên tục. Đây là nơi trạng thái vận hành dựa trên đồ thị, các chính sách có thể thực thi và lập kế hoạch có nhận thức về ràng buộc bắt đầu hội tụ thành một kiến ​​trúc thời gian chạy mới cho các hệ thống tự động.

Và theo thời gian, kiến ​​trúc này có khả năng sẽ tạo ra một thế hệ mới các công cụ vận hành:

• các mục tiêu bền vững được lấy cảm hứng từ các phương pháp kỹ thuật yêu cầu hướng mục tiêu như KAOS [10],
• các vai trò và trách nhiệm tổ chức có thể thực thi tương tự như mô hình tổ chức hướng vai trò của Gaia cho các hệ thống đa tác nhân [11],
• các cấu trúc phối hợp thích ứng tương tự như các phương pháp MAS tổ chức như MOISE+ [12],
•  và các mô hình tổ chức thời gian chạy cho các hệ thống đa tác nhân tầm xa được khám phá trong nghiên cứu logic tổ chức và hệ thống đa tổ chức thích ứng [13][14].

Do đó, thế hệ tiếp theo của các hệ thống trí tuệ nhân tạo doanh nghiệp có thể được định nghĩa không phải bởi số lượng hành động mà chúng có thể tạo ra, mà bởi độ tin cậy trong việc duy trì hành vi phối hợp hướng đến mục tiêu trong điều kiện ràng buộc liên tục thay đổi.

1. Hogan, A., Blomqvist, E., Cochez, M., et al. Đồ thị tri thức. Khảo sát điện toán ACM, 2021.

2. Edge, D., et al. Từ cục bộ đến toàn cầu: Một cách tiếp cận GraphRAG đối với tóm tắt tập trung vào truy vấn. arXiv, 2024.

3. Nii, HP. Mô hình Bảng đen về giải quyết vấn đề và sự tiến hóa của kiến ​​trúc Bảng đen. Tạp chí AI, 1986.

4. Wooldridge, M. Giới thiệu về Hệ thống Đa tác tử. Wiley, 2009.

5. Ferber, J. Hệ thống đa tác nhân: Giới thiệu về trí tuệ nhân tạo phân tán. Addison-Wesley, 1999.

6. Myers, KL, Hướng tới một khuôn khổ cho việc lập kế hoạch và thực thi liên tục. AAAI, 1999.

7. Rao, AS, Georgeff, MP, Đại lý BDI: Từ lý thuyết đến thực tiễn. ICMAS, 1995.

8. Ceri, S., Gottlob, G., Tanca, L. Lập trình logic và cơ sở dữ liệu. Springer, 1990.

9. Abiteboul, S., Hull, R., Vianu, V. Cơ sở của cơ sở dữ liệu. Addison-Wesley, 1995.

[10]. van Lamsweerde, A. (2001). Kỹ thuật yêu cầu hướng mục tiêu: Một chuyến tham quan có hướng dẫn.

[11] Wooldridge, M., Jennings, NR, & Kinny, D. (2000). Phương pháp Gaia cho phân tích và thiết kế hướng tác nhân.

[12] Hannoun, M., Sichman, JS, Boissier, O., & Sayettat, C. (2000). MOISE: Mô hình tổ chức cho hệ thống đa tác nhân.

[14] Dignum, V., & Dignum, F. (2018). Vai trò của các mô hình tổ chức trong hệ thống tác nhân.

[15] Tamersoy, M., Ekinci, EE, Erdur, RC, & Dikenelli, O. (2017). Mô hình yêu cầu cho các hệ thống đa tổ chức thích ứng. SASO 2017.