Ajan Tabanlı Yapay Zekada Eksik Katman

Günümüzdeki çoğu ajan sistemi, bağlamı öncelikle konuşma geçmişi, alınan belgeler veya vektör benzerliği sonuçları olarak ele almaktadır. Bu yaklaşım, konuşmaya dayalı görevler için oldukça iyi sonuç verirken, operasyonel sistemler temelde farklı bir bağlam yönetimi türü gerektirir.

Gerçek ortamlarda kararlar yalnızca elde edilen bilgilere değil, aynı zamanda şunlara da bağlıdır:

• varlık ilişkileri,
• organizasyonel yapı,
• zamansal olaylar,
• mülkiyet zincirleri, 
• önceki kararlar,
• aktif kısıtlamalar,
• ve sürekli gelişen operasyonel durum [1]. 

Bir müşteri sadece bir belge değildir. Bir şirket sadece bir metin parçası değildir. Bir düzenleyici olay, basitçe başka bir bilgi alma sonucu değildir. Operasyonel sistemler sürekli gelişen bir durum modeline ihtiyaç duyar. İşte bu noktada bellek ve operasyonel bağlam arasındaki ayrım kritik hale gelir.

Bellek bilgileri depolar. Operasyonel bağlam sistem durumunu korur.

Pratikte bu, sistemin varlıklar, ilişkiler, zamansal olay zincirleri, politika bağlamaları ve yürütme geçmişi gibi yapıları sürekli olarak koruması ve güncellemesi gerektiği anlamına gelir. Bu, grafik tabanlı yaklaşımların ajan sistemlerinde giderek daha önemli hale gelmesinin nedenlerinden biridir.

Bir grafik yalnızca bilgiye erişim için kullanışlı değildir. Çalışma durumunun iş zamanı temsilini sağlar. Sistem, bağlamı izole metin parçaları olarak ele almak yerine, bağlantılı varlıklar, gelişen ilişkiler, zamansal bağımlılıklar ve bağlamsal yayılma yolları üzerinde akıl yürütebilir. Bu, grafiğin rolünü tamamen değiştirir. Grafik artık bir depolama katmanı olmaktan çıkar ve şu hale gelir:

• bağlamsal bellek,
• operasyonel devlet temsili,

• ve karar sistemleri için uygulama bağlamı.

  

  Ajan sistemleri otonom operasyonlara doğru ilerledikçe bu ayrım giderek daha önemli hale geliyor. Çünkü otonom yürütme sadece bilgi edinmeyi değil, aynı zamanda sürekli bağlamsal durum yönetimini de gerektiriyor[4].

Bir anlaşmazlık çözüm temsilcisinin bir geri ödeme talebini ele aldığını hayal edin. Müşteri, işlemin sahte olduğunu iddia ediyor. İşlem güvenilir bir cihazdan yapılmış. Satıcının risk puanı düşük. İlk bakışta durum basit görünüyor. Ancak işlem, alışılmadık bir şifre sıfırlamasından kısa bir süre sonra gerçekleşti, müşteri yakın zamanda cihaz değişikliği yapmıştı ve bankanın dolandırıcılık politikası, kısa bir zaman dilimi içinde birden fazla zayıf sinyal birlikte ortaya çıktığında üst mercilere başvurulmasını gerektiriyor.

Bu aşamada, politika sadece bir PDF dosyası olarak kalamaz. Mantıksal düşünme yapısının bir parçası haline gelmelidir.

Operasyonel bir ajan sisteminde, politikalar LLM zaten bir yanıt oluşturduktan sonra yalnızca metin olarak alınmamalıdır. Bunlar, yürütmeyi aktif olarak kısıtlamalıdır: belirli eylemleri engellemeli, yükseltmeleri tetiklemeli, onay yollarını değiştirmeli, ek kanıt gerektirmeli veya otomatik çözümü önlemelidir. Bu fikir, yürütmenin izole edilmiş görev tamamlama mantığından ziyade kısıtlamalar, hedefler ve çevresel koşullar tarafından sürekli olarak şekillendirildiği önceki politika tabanlı planlama yaklaşımlarıyla yakından ilgilidir [6].

İşte bu noktada grafik tabanlı operasyonel bağlam kritik önem kazanıyor.

Grafik, anlaşmazlık durumunu temsil eder: müşteri, hesap, işlem, satıcı, cihaz, parola sıfırlama olayı, sahtekarlık göstergeleri, önceki kararlar, politika kuralları ve yürütme geçmişi. Politikalar daha sonra bu grafiğe, izole belgeler olarak değil, yürütülebilir kısıtlamalar olarak bağlanır. Bu, birçok yönden, akıllı varlıkların izole mesaj alışverişleri yerine sürekli paylaşılan bir operasyonel durum aracılığıyla koordinasyon sağladığı çoklu ajan yürütme ortamlarının evrimine benzer [4].

Bir akıl yürütme katmanı, daha önceki mantık programlama ve tümdengelimli veritabanı sistemlerinden türetilen kural tabanlı veya mantık tabanlı mekanizmaları kullanarak bu grafik üzerinde çalışabilir [8]. Örneğin, Datalog benzeri bir kural, tartışmalı bir işlemin parola sıfırlamasını takip etmesi, yeni bir cihazı içermesi ve bir risk eşiğini aşması durumunda anlaşmazlığın tırmandırılması gerektiğini ifade edebilir; bu yaklaşım, klasik tümdengelimli akıl yürütme sistemleri ve veritabanı mantık motorlarıyla kavramsal olarak uyumludur [9].

LLM, vakayı yorumlayabilir, kararı açıklayabilir ve kullanıcılarla etkileşim kurabilir, ancak politika koşulunun kendisi grafik üzerinde deterministik olarak değerlendirilir.

Bu mimaride, grafik motoru operasyonel altyapı haline gelirken, akıl yürütme katmanı mevcut durum üzerindeki kısıtlamaları, yükümlülükleri, izinleri ve bağımlılıkları değerlendirir. Olasılıksal akıl yürütme ile kısıtlı yürütme arasındaki bu ayrım, akıllı davranışın yalnızca hedeflerden değil, aynı zamanda sürekli olarak sürdürülen inançlardan, niyetlerden, yükümlülüklerden ve yürütme kısıtlamalarından da ortaya çıktığı önceki BDI tabanlı ajan modellerini de yansıtır (Rao & Georgeff, 1995).

Önemli değişim 

Bu, bağımsız bir anlaşmazlık çözüm mekanizmasının yalnızca ne olup bittiğini değil, aynı zamanda yürütmenin her adımında neyin izin verildiğini, neyin gerekli olduğunu, neyin engellendiğini veya neyin üst kademeye iletildiğini de değerlendirmesine olanak tanır.

Bağlam sürekli gelişen bir operasyonel duruma dönüştüğünde ve politikalar uygulanabilir kısıtlamalar haline geldiğinde, bir sonraki zorluk karar uygulamasının kendisidir.

Bu aşamada sorun artık veri alma değil, çalışma zamanı karar kontrolü haline geliyor. Mevcut ajan sistemlerinin çoğu hala eylem üretme sistemleri olarak çalışıyor: bağlamı al, üzerinde akıl yürüt, bir eylem üret, sonucu yürüt. Ancak operasyonel sistemler, akıl yürütme ve yürütme arasında ek bir katmana ihtiyaç duyar: kısıtlı bir karar hattı.

Bu ayrım çok önemlidir çünkü operasyonel ortamlar nadiren tek bir geçerli eylem içerir. Bunun yerine şunları içerirler:

• uygulanabilir eylemler,
• yasaklanmış eylemler,
• tırmanan eylemler,
• gecikmiş eylemler,
• ve şartlı olarak izin verilen eylemler.

Dolayısıyla sistemin rolü yalnızca eylemler üretmek değil, aynı zamanda çalışma zamanı kısıtlamaları altında bunları sürekli olarak filtrelemek ve doğrulamaktır. Basitleştirilmiş bir işlem hattı giderek şu şekilde görünmektedir: 

Bu durum, yığındaki çeşitli bileşenlerin rolünü değiştirir. Grafik artık yalnızca veri alma amacıyla kullanılmaz; sistemin çalışma zamanı operasyonel durumunun bir parçası haline gelir. 

Politikalar artık statik dokümantasyon olmaktan çıkıyor. Karar üretimi sırasında değerlendirilen, yürütülebilir çalışma zamanı kısıtlamaları haline geliyorlar. Planlayıcı artık sadece görevleri sıralamıyor; aktif kısıtlamalar altında operasyonel olarak uygulanabilir eylemler üretmekten sorumlu hale geliyor.

Bu ayrım önemlidir çünkü birçok operasyonel başarısızlık eksik bilgiden kaynaklanmaz. Değişen koşullar altında geçersiz eylem seçiminden kaynaklanırlar.

Örneğin:

• Bir eylem yetki sınırını ihlal edebilir,
• yürürlükteki bir uyumluluk kuralıyla çelişen durum,
• Geçersiz bir işlem dizisini tetiklemek,
• veya sonraki aşamalarda operasyonel risk oluşturabilir.

Bu durumlarda sorun zeka yetersizliği değil, kısıtlama yetersizliğidir. Bu nedenle otonom sistemlerde kısıtlı planlama giderek daha önemli hale gelmektedir.

Sistem, oluşturulan eylemleri doğrudan yürütmek yerine şunları yapmalıdır:

• uygulanabilirliği değerlendirmek,
• Geçersiz yolları buda,
• Çalışma zamanı kısıtlamalarını uygulayın,
• Çatışmaları tespit etmek,
• ve gerektiğinde alternatif yürütme yolları oluşturun.

Kavramsal olarak, bu durum modern ajan sistemlerini geleneksel konuşma tabanlı yapay zeka mimarilerinden ziyade klasik planlama sistemlerine daha çok yaklaştırıyor.

Şu gibi yaklaşımlar:

• GraphPlan,
• kısıtlama tatmin sistemleri,
• sezgisel arama,
• A* varyantları,
• ve dinamik yeniden planlama algoritmaları

Sistemler sürekli değişen çalışma koşulları altında çalışmaya başladığında yeniden önem kazanırlar.

Ancak, klasik planlamacılardan farklı olarak, modern operasyonel sistemler aynı zamanda olasılıksal anlamsal yorumlama, yapılandırılmamış girdiler, gelişen grafik bağlamı ve dinamik olarak değişen politikalar da içerir.

Sonuç olarak, ortaya çıkan mimari ne tamamen sembolik ne de tamamen olasılıksaldır. LLM'lerin yorumladığı, grafiklerin operasyonel durumu koruduğu, kısıtlamaların yürütme sınırlarını tanımladığı ve planlayıcıların bu sınırlar içinde uygulanabilir eylemler ürettiği hibrit bir yürütme modeli haline gelir.

Bu ayrım önemlidir çünkü otonom sistemlerin operasyonel kontrolü kaybetmeden esnek kalmalarını sağlar. Amaç olasılıksal zekayı ortadan kaldırmak değildir.

Amaç, olasılıksal akıl yürütmenin, etrafında deterministik doğrulama katmanları olmadan operasyonel yürütmeyi doğrudan kontrol etmesini önlemektir.

Operasyonel bağlam, yürütülebilir kısıtlamalar ve kısıtlı planlama çalışma zamanının bir parçası haline geldiğinde, otonom yürütme basit bir orkestrasyon problemi olmaktan çıkar. Sistem sürekli değişen bir operasyonel durumda çalışır: varlıklar gelişir, ilişkiler değişir, kısıtlamalar etkinleşir veya sona erer ve yürütme fizibilitesi zaman içinde değişir.

Bu koşullar altında, yürütme artık yalnızca üretilen çıktılara bağlı olamaz. Sistem sürekli olarak bağlamı yeniden değerlendirmeli, kısıtlamaları doğrulamalı, planları uyarlamalı ve değişen koşullar karşısında operasyonel tutarlılığı korumalıdır.

Ajan sistemleri kısa süreli iş akışlarından uzun süreli, hedef odaklı operasyonlara doğru ilerledikçe bu durum daha da kritik hale gelir. Bu ortamlarda hedefler kalıcıdır, birden fazla ajan etkileşim halindedir, organizasyonel sınırlar önem kazanır ve yürütme yolları çalışma süresi boyunca dinamik olarak gelişir.

Sonuç olarak, planlama tek seferlik bir görev olmaktan çıkıp sürekli bir operasyonel süreç haline gelir. İşte bu noktada grafik tabanlı operasyonel durum, yürütülebilir politikalar ve kısıtlamaya duyarlı planlama, otonom sistemler için yeni bir çalışma zamanı mimarisine dönüşmeye başlar.

Ve zamanla, bu mimari muhtemelen yeni bir nesil operasyonel unsurun ortaya çıkmasına yol açacaktır:

• KAOS [10] gibi hedef odaklı gereksinim mühendisliği yaklaşımlarından ilham alan kalıcı hedefler,
• Gaia'nın çoklu ajan sistemleri için rol odaklı organizasyonel modellemesine benzer yürütülebilir organizasyonel roller ve sorumluluklar [11],
• MOISE+ [12] gibi organizasyonel MAS yaklaşımlarına benzeyen uyarlanabilir koordinasyon yapıları,
•  ve uzun ufuklu çoklu ajan sistemleri için çalışma zamanı organizasyonel kalıpları, organizasyonel mantık ve uyarlanabilir çoklu organizasyonel sistem araştırmalarında incelenmiştir [13][14].

Dolayısıyla, yeni nesil kurumsal yapay zeka sistemleri, üretebildikleri eylem sayısı ile değil, sürekli değişen kısıtlamalar altında koordineli, hedef odaklı davranışı ne kadar güvenilir bir şekilde sürdürebildikleri ile tanımlanabilir.

1. Hogan, A., Blomqvist, E., Cochez, M., vd. Bilgi Grafikleri. ACM Computing Surveys, 2021.

2. Edge, D., vd. Yerelden Küresele: Sorgu Odaklı Özetlemeye Yönelik Bir GraphRAG Yaklaşımı. arXiv, 2024.

3. Nii, HP, Problem Çözmenin Kara Tahta Modeli ve Kara Tahta Mimarilerinin Evrimi. Yapay Zeka Dergisi, 1986.

4. Wooldridge, M. Çoklu Ajan Sistemlerine Giriş. Wiley, 2009.

5. Ferber, J. Çoklu Ajan Sistemleri: Dağıtılmış Yapay Zekaya Giriş. Addison-Wesley, 1999.

6. Myers, KL Sürekli Planlama ve Uygulama için Bir Çerçeveye Doğru. AAAI, 1999.

7. Rao, AS, Georgeff, MP BDI Temsilcileri: Teoriden Uygulamaya. ICMAS, 1995.

8. Ceri, S., Gottlob, G., Tanca, L. Mantıksal Programlama ve Veritabanları. Springer, 1990.

9. Abiteboul, S., Hull, R., Vianu, V. Veritabanlarının Temelleri. Addison-Wesley, 1995.

[10]. van Lamsweerde, A. (2001). Hedef Odaklı Gereksinim Mühendisliği: Rehberli Bir Tur.

[11] Wooldridge, M., Jennings, NR ve Kinny, D. (2000). Ajan Odaklı Analiz ve Tasarım için Gaia Metodolojisi.

[12] Hannoun, M., Sichman, JS, Boissier, O. ve Sayettat, C. (2000). MOISE: Çok Aracılı Sistemler için Bir Organizasyon Modeli.

[14] Dignum, V., & Dignum, F. (2018). Ajan Sistemlerinde Organizasyonel Modellerin Rolü.

[15] Tamersoy, M., Ekinci, EE, Erdur, RC ve Dikenelli, O. (2017). Uyarlanabilir Çoklu Organizasyon Sistemleri için Bir Gereksinim Modeli. SASO 2017.