Lapisan yang Hilang dalam AI Agentik

Sebagian besar sistem agen saat ini memperlakukan konteks terutama sebagai riwayat percakapan, dokumen yang diambil, atau hasil kesamaan vektor. Pendekatan ini bekerja cukup baik untuk tugas-tugas percakapan, tetapi sistem operasional membutuhkan jenis manajemen konteks yang pada dasarnya berbeda.

Dalam lingkungan nyata, keputusan tidak hanya bergantung pada informasi yang diperoleh, tetapi juga pada:

• hubungan entitas,
• struktur organisasi,
• peristiwa temporal,
• rantai kepemilikan, 
• keputusan sebelumnya,
• kendala aktif,
• dan kondisi operasional yang terus berkembang [1]. 

Pelanggan bukan sekadar dokumen. Perusahaan bukan sekadar potongan teks. Suatu peristiwa regulasi bukan sekadar hasil pencarian lainnya. Sistem operasional membutuhkan model keadaan yang terus berkembang. Di sinilah perbedaan antara memori dan konteks operasional menjadi sangat penting.

Memori menyimpan informasi. Konteks operasional mempertahankan keadaan sistem.

Dalam praktiknya, ini berarti sistem harus terus-menerus memelihara dan memperbarui struktur seperti entitas, relasi, rantai peristiwa temporal, pengikatan kebijakan, dan riwayat eksekusi. Inilah salah satu alasan mengapa pendekatan berbasis grafik menjadi semakin penting dalam sistem agen.

Graf tidak hanya berguna untuk pengambilan data. Graf menyediakan representasi runtime dari keadaan operasional. Alih-alih memperlakukan konteks sebagai fragmen teks yang terisolasi, sistem dapat bernalar atas entitas yang terhubung, hubungan yang berkembang, ketergantungan temporal, dan jalur propagasi kontekstual. Ini mengubah peran graf sepenuhnya. Graf berhenti menjadi lapisan penyimpanan dan menjadi:

• memori kontekstual,
• Perwakilan negara operasional,

• dan konteks eksekusi untuk sistem pengambilan keputusan.

  

  Seiring sistem agen bergerak menuju operasi otonom, perbedaan ini menjadi semakin penting. Karena eksekusi otonom tidak hanya membutuhkan pengambilan informasi, tetapi juga manajemen keadaan kontekstual yang berkelanjutan[4].

Bayangkan seorang agen sengketa menangani permintaan pengembalian dana. Pelanggan mengklaim bahwa transaksi tersebut curang. Transaksi dilakukan dari perangkat tepercaya. Pedagang memiliki skor risiko rendah. Sekilas, kasus ini tampak sederhana. Tetapi transaksi terjadi tak lama setelah pengaturan ulang kata sandi yang tidak biasa, pelanggan baru saja mengganti perangkat, dan kebijakan penipuan bank mengharuskan eskalasi ketika beberapa sinyal lemah muncul bersamaan dalam jangka waktu singkat.

Pada titik ini, kebijakan tersebut tidak bisa hanya berupa PDF. Kebijakan tersebut harus menjadi bagian dari landasan penalaran.

Dalam sistem agen operasional, kebijakan tidak boleh diambil hanya sebagai teks setelah LLM telah membentuk jawaban. Kebijakan tersebut harus secara aktif membatasi eksekusi: memblokir tindakan tertentu, memicu eskalasi, mengubah jalur persetujuan, memerlukan bukti tambahan, atau mencegah resolusi otomatis. Ide ini terkait erat dengan pendekatan perencanaan berbasis kebijakan sebelumnya, di mana eksekusi terus dibentuk oleh kendala, tujuan, dan kondisi lingkungan daripada logika penyelesaian tugas yang terisolasi [6].

Di sinilah konteks operasional berbasis grafik menjadi sangat penting.

Grafik tersebut merepresentasikan keadaan sengketa: pelanggan, akun, transaksi, pedagang, perangkat, peristiwa pengaturan ulang kata sandi, indikator penipuan, keputusan sebelumnya, aturan kebijakan, dan riwayat eksekusi. Kebijakan kemudian dihubungkan ke grafik ini sebagai batasan yang dapat dieksekusi, bukan sebagai dokumen yang terisolasi. Dalam banyak hal, ini menyerupai evolusi lingkungan eksekusi multi-agen, di mana entitas cerdas berkoordinasi melalui keadaan operasional yang terus menerus dibagi daripada pertukaran pesan yang terisolasi [4].

Lapisan penalaran dapat beroperasi di atas grafik ini menggunakan mekanisme berbasis aturan atau berbasis logika yang berasal dari pemrograman logika sebelumnya dan sistem basis data deduktif [8]. Misalnya, aturan seperti Datalog dapat menyatakan bahwa sengketa harus ditingkatkan jika transaksi yang disengketakan mengikuti pengaturan ulang kata sandi, melibatkan perangkat baru, dan melebihi ambang risiko — pendekatan yang secara konseptual selaras dengan sistem penalaran deduktif klasik dan mesin logika basis data [9].

LLM dapat menafsirkan kasus, menjelaskan keputusan, dan berinteraksi dengan pengguna, tetapi kondisi kebijakan itu sendiri dievaluasi secara deterministik di atas grafik.

Dalam arsitektur ini, mesin graf menjadi substrat operasional, sementara lapisan penalaran mengevaluasi kendala, kewajiban, izin, dan ketergantungan atas keadaan saat ini. Pemisahan antara penalaran probabilistik dan eksekusi yang dibatasi ini juga mencerminkan model agen berbasis BDI sebelumnya, di mana perilaku cerdas muncul tidak hanya dari tujuan, tetapi juga dari keyakinan, niat, kewajiban, dan kendala eksekusi yang terus dipelihara (Rao & Georgeff, 1995).

Pergeseran kunci 

Hal ini memungkinkan agen sengketa otonom untuk bernalar tidak hanya tentang apa yang terjadi, tetapi juga tentang apa yang diizinkan, diwajibkan, diblokir, atau ditingkatkan pada setiap langkah eksekusi.

Begitu konteks menjadi keadaan operasional yang terus berkembang dan kebijakan menjadi batasan yang dapat dieksekusi, tantangan selanjutnya adalah eksekusi keputusan itu sendiri.

Pada tahap ini, masalahnya bukan lagi pengambilan data. Masalahnya menjadi pengendalian keputusan saat runtime. Sebagian besar sistem agen saat ini masih beroperasi sebagai sistem pembangkit aksi: mengambil konteks, menalarnya, menghasilkan aksi, mengeksekusi hasilnya. Tetapi sistem operasional membutuhkan lapisan tambahan antara penalaran dan eksekusi: alur kerja pengambilan keputusan yang terkendali.

Perbedaan ini sangat penting karena lingkungan operasional jarang hanya berisi satu tindakan yang valid. Sebaliknya, lingkungan operasional berisi:

• tindakan yang layak,
• tindakan terlarang,
• tindakan yang meningkat,
• tindakan tertunda,
• dan tindakan yang diizinkan secara bersyarat.

Oleh karena itu, peran sistem bukan hanya untuk menghasilkan tindakan, tetapi juga untuk terus menerus menyaring dan memvalidasinya di bawah batasan waktu eksekusi. Alur kerja yang disederhanakan semakin terlihat seperti ini: 

Hal ini mengubah peran beberapa komponen dalam tumpukan. Grafik tidak lagi hanya digunakan untuk pengambilan data. Grafik menjadi status operasional sistem saat runtime. 

Kebijakan bukan lagi sekadar dokumentasi statis. Kebijakan menjadi batasan yang dapat dieksekusi saat runtime dan dievaluasi selama pembuatan keputusan. Perencana tidak lagi hanya mengurutkan tugas. Perencana bertanggung jawab untuk menghasilkan tindakan yang layak secara operasional di bawah batasan aktif.

Perbedaan ini penting karena banyak kegagalan operasional tidak berasal dari informasi yang hilang. Kegagalan tersebut berasal dari pemilihan tindakan yang tidak tepat dalam kondisi yang berubah.

Sebagai contoh:

• Suatu tindakan dapat melanggar batas kewenangan,
• bertentangan dengan aturan kepatuhan yang aktif,
• memicu urutan proses yang tidak valid,
• atau menimbulkan risiko operasional di hilir.

Dalam kasus ini, masalahnya bukanlah kegagalan kecerdasan. Melainkan kegagalan batasan. Inilah mengapa perencanaan dengan batasan menjadi semakin penting dalam sistem otonom.

Alih-alih mengeksekusi tindakan yang dihasilkan secara langsung, sistem harus:

• mengevaluasi kelayakan,
• Hapus jalur yang tidak valid,
• terapkan batasan saat runtime,
• mendeteksi konflik,
• dan menghasilkan jalur eksekusi alternatif bila diperlukan.

Secara konseptual, hal ini membawa sistem agen modern lebih dekat ke sistem perencanaan klasik daripada arsitektur AI percakapan tradisional.

Pendekatan seperti:

• GraphPlan,
• sistem pemenuhan kendala,
• pencarian heuristik,
• Varian A*,
• dan algoritma perencanaan ulang dinamis

menjadi relevan kembali setelah sistem beroperasi di bawah kondisi runtime yang terus berubah.

Namun, tidak seperti perencana klasik, sistem operasional modern juga mengandung interpretasi semantik probabilistik, masukan yang tidak terstruktur, konteks grafik yang berkembang, dan kebijakan yang berubah secara dinamis.

Akibatnya, arsitektur yang muncul bukanlah murni simbolik maupun murni probabilistik. Arsitektur ini menjadi model eksekusi hibrida di mana LLM (Learning Learning Model) menginterpretasikan, grafik mempertahankan status operasional, batasan menentukan batas eksekusi, dan perencana menghasilkan tindakan yang layak dalam batas-batas tersebut.

Pemisahan ini penting karena memungkinkan sistem otonom untuk tetap fleksibel tanpa kehilangan kendali operasional. Tujuannya bukanlah untuk menghilangkan kecerdasan probabilistik.

Tujuannya adalah untuk mencegah penalaran probabilistik secara langsung mengendalikan eksekusi operasional tanpa lapisan validasi deterministik di sekitarnya.

Begitu konteks operasional, batasan eksekusi, dan perencanaan terbatas menjadi bagian dari runtime itu sendiri, eksekusi otonom berhenti menjadi masalah orkestrasi sederhana. Sistem terus beroperasi pada keadaan operasional yang berubah: entitas berkembang, hubungan berubah, batasan aktif atau kedaluwarsa, dan kelayakan eksekusi bergeser dari waktu ke waktu.

Dalam kondisi ini, eksekusi tidak lagi dapat bergantung sepenuhnya pada output yang dihasilkan. Sistem harus terus-menerus mengevaluasi kembali konteks, memvalidasi batasan, menyesuaikan rencana, dan menjaga konsistensi operasional di tengah perubahan kondisi.

Hal ini menjadi semakin penting seiring sistem agen beralih dari alur kerja jangka pendek menuju operasi jangka panjang yang berorientasi pada tujuan. Dalam lingkungan ini, tujuan tetap ada, banyak agen berinteraksi, batasan organisasi menjadi penting, dan jalur eksekusi berkembang secara dinamis selama waktu berjalan.

Akibatnya, perencanaan berhenti menjadi tugas sekali jalan dan menjadi proses operasional yang berkelanjutan. Di sinilah status operasional berbasis grafik, kebijakan yang dapat dieksekusi, dan perencanaan yang mempertimbangkan kendala mulai menyatu menjadi arsitektur runtime baru untuk sistem otonom.

Dan seiring waktu, arsitektur ini kemungkinan akan memperkenalkan generasi baru artefak operasional:

• tujuan berkelanjutan yang terinspirasi oleh pendekatan rekayasa persyaratan berorientasi tujuan seperti KAOS [10],
• peran dan tanggung jawab organisasi yang dapat dieksekusi serupa dengan pemodelan organisasi berorientasi peran Gaia untuk sistem multi-agen [11],
• struktur koordinasi adaptif menyerupai pendekatan MAS organisasi seperti MOISE+ [12],
•  dan pola organisasi runtime untuk sistem multi-agen horizon panjang yang dieksplorasi dalam logika organisasi dan penelitian sistem multi-organisasi adaptif [13][14].

Oleh karena itu, generasi selanjutnya dari sistem AI perusahaan mungkin tidak akan ditentukan oleh berapa banyak tindakan yang dapat mereka hasilkan, tetapi oleh seberapa andal mereka dapat mempertahankan perilaku terkoordinasi yang berorientasi pada tujuan di bawah kendala yang terus berubah.

1. Hogan, A., Blomqvist, E., Cochez, M., dkk. Knowledge Graphs. ACM Computing Surveys, 2021.

2. Edge, D., dkk. Dari Lokal ke Global: Pendekatan GraphRAG untuk Peringkasan yang Berfokus pada Kueri. arXiv, 2024.

3. Nii, HP. Model Papan Tulis untuk Pemecahan Masalah dan Evolusi Arsitektur Papan Tulis. Majalah AI, 1986.

4. Wooldridge, M. Pengantar Sistem MultiAgen. Wiley, 2009.

5. Ferber, J. Sistem Multi-Agen: Pengantar Kecerdasan Buatan Terdistribusi. Addison-Wesley, 1999.

6. Myers, KL Menuju Kerangka Kerja untuk Perencanaan dan Pelaksanaan Berkesinambungan. AAAI, 1999.

7. Rao, AS, Georgeff, MP Agen BDI: Dari Teori ke Praktik. ICMAS, 1995.

8. Ceri, S., Gottlob, G., Tanca, L. Pemrograman Logika dan Basis Data. Springer, 1990.

9. Abiteboul, S., Hull, R., Vianu, V. Dasar-Dasar Basis Data. Addison-Wesley, 1995.

[10]. van Lamsweerde, A. (2001). Rekayasa Persyaratan Berorientasi Tujuan: Tur Terpandu.

[11] Wooldridge, M., Jennings, NR, & Kinny, D. (2000). Metodologi Gaia untuk Analisis dan Desain Berorientasi Agen.

[12] Hannoun, M., Sichman, JS, Boissier, O., & Sayettat, C. (2000). MOISE: Model Organisasi untuk Sistem Multi-Agen.

[14] Dignum, V., & Dignum, F. (2018). Peran Model Organisasi dalam Sistem Agen.

[15] Tamersoy, M., Ekinci, EE, Erdur, RC, & Dikenelli, O. (2017). Model Persyaratan untuk Sistem Multi-Organisasi Adaptif. SASO 2017.