Агенттік жасанды интеллекттегі жетіспейтін қабат

Қазіргі агент жүйелерінің көпшілігі контекстті негізінен әңгіме тарихы, алынған құжаттар немесе векторлық ұқсастық нәтижелері ретінде қарастырады. Бұл тәсіл әңгімелесу тапсырмалары үшін жақсы жұмыс істейді, бірақ операциялық жүйелер контекстті басқарудың түбегейлі басқа түрін қажет етеді.

Нақты ортада шешімдер тек алынған ақпаратқа ғана емес, сонымен қатар мыналарға да байланысты:

• субъектілік қатынастар,
• ұйымдастырушылық құрылым,
• уақытша оқиғалар,
• меншік тізбектері, 
• бұрынғы шешімдер,
• белсенді шектеулер,
• және үздіксіз дамып келе жатқан операциялық күй [1]. 

Тұтынушы тек құжат емес. Компания тек мәтін бөлігі емес. Реттеуші оқиға жай ғана іздеу нәтижесі емес. Операциялық жүйелер үздіксіз дамып келе жатқан күй моделін қажет етеді. Міне, осы жерде жад пен операциялық контекст арасындағы айырмашылық өте маңызды болады.

Жад ақпаратты сақтайды. Операциялық контекст жүйенің күйін сақтайды.

Іс жүзінде бұл жүйенің нысандар, қатынастар, уақытша оқиғалар тізбегі, саясат байланыстары және орындалу тарихы сияқты құрылымдарды үздіксіз қолдауы және жаңартуы керек дегенді білдіреді. Бұл графқа негізделген тәсілдердің агент жүйелерінде маңызды болып келе жатқан себептерінің бірі.

Граф тек қалпына келтіру үшін ғана пайдалы емес. Ол операциялық күйдің орындалу уақытындағы көрінісін қамтамасыз етеді. Контекстті оқшауланған мәтін фрагменттері ретінде қарастырудың орнына, жүйе байланысты нысандарды, дамып келе жатқан қатынастарды, уақытша тәуелділіктерді және контекстік таралу жолдарын пайымдай алады. Бұл графиктің рөлін толығымен өзгертеді. Граф сақтау қабаты болуды тоқтатады және келесіге айналады:

• контекстік жады,
• оперативті мемлекеттік өкілдік,

• және шешім қабылдау жүйелері үшін орындау контексті.

  

  Агенттік жүйелер автономды операцияларға көшкен сайын, бұл айырмашылық барған сайын маңызды бола түседі. Себебі автономды орындау тек ақпаратты іздеуді ғана емес, сонымен қатар үздіксіз контекстік күйді басқаруды да қажет етеді[4].

Дау агентінің төлемді қайтару туралы өтінішті қарастырып жатқанын елестетіп көріңіз. Тұтынушы транзакция алаяқтық деп мәлімдейді. Транзакция сенімді құрылғыдан жасалған. Саудагердің тәуекел деңгейі төмен. Сырттай қарағанда, іс қарапайым көрінеді. Бірақ транзакция әдеттен тыс құпия сөзді қалпына келтіруден, тұтынушының құрылғысын жақында ауыстырғаннан кейін көп ұзамай орын алды және банктің алаяқтық саясаты қысқа уақыт ішінде бірнеше әлсіз сигналдар бірге пайда болған кезде күшейтуді талап етеді.

Қазіргі уақытта саясат PDF форматында қала алмайды. Ол пайымдау негізінің бір бөлігіне айналуы керек.

Операциялық агент жүйесінде саясаттар LLM жауап қалыптастырғаннан кейін тек мәтін ретінде алынбауы керек. Олар орындалуды белсенді түрде шектеуі керек: белгілі бір әрекеттерді бұғаттау, эскалацияны іске қосу, бекіту жолдарын өзгерту, қосымша дәлелдерді талап ету немесе автоматтандырылған шешімді болдырмау. Бұл идея бұрынғы саясатқа негізделген жоспарлау тәсілдерімен тығыз байланысты, мұнда орындалу үздіксіз оқшауланған тапсырманы орындау логикасымен емес, шектеулермен, мақсаттармен және қоршаған орта жағдайларымен қалыптасады [6].

Міне, осы жерде графикке негізделген операциялық контекст маңызды рөл атқарады.

График дау күйін көрсетеді: тұтынушы, тіркелгі, транзакция, сатушы, құрылғы, құпия сөзді қалпына келтіру оқиғасы, алаяқтық индикаторлары, алдыңғы шешімдер, саясат ережелері және орындалу тарихы. Содан кейін саясаттар осы графикке оқшауланған құжаттар ретінде емес, орындалатын шектеулер ретінде қосылады. Көп жағынан бұл ақылды нысандар оқшауланған хабарлама алмасуларының орнына үздіксіз ортақ операциялық күй арқылы үйлестірілетін көп агентті орындау орталарының эволюциясына ұқсайды [4].

Ойлау қабаты бұл графикті бұрынғы логикалық бағдарламалаудан және дедуктивті дерекқор жүйелерінен алынған ережеге негізделген немесе логикаға негізделген механизмдерді пайдаланып басқара алады [8]. Мысалы, Datalog тәрізді ереже даулы транзакция құпия сөзді қалпына келтіруден кейін, жаңа құрылғыны қамтыған және тәуекел шегінен асып кеткен жағдайда дауды шиеленістіру керектігін білдіре алады — бұл тәсіл классикалық дедуктивті ойлау жүйелерімен және дерекқор логикалық қозғалтқыштарымен тұжырымдамалық тұрғыдан үйлеседі [9].

LLM істі түсіндіріп, шешімді түсіндіріп, пайдаланушылармен өзара әрекеттесе алады, бірақ саясат шартының өзі график бойынша детерминирленген түрде бағаланады.

Бұл архитектурада графикалық қозғалтқыш операциялық субстратқа айналады, ал пайымдау қабаты ағымдағы күйге қатысты шектеулерді, міндеттемелерді, рұқсаттарды және тәуелділіктерді бағалайды. Ықтималдық пайымдау мен шектеулі орындау арасындағы бұл бөліну ақылды мінез-құлық тек мақсаттардан ғана емес, сонымен қатар үздіксіз сақталатын сенімдерден, ниеттерден, міндеттемелерден және орындау шектеулерінен де пайда болатын бұрынғы BDI негізіндегі агент модельдерін де еске түсіреді (Rao & Georgeff, 1995).

Негізгі ауысым 

Бұл автономды дау агентіне тек не болғанын ғана емес, сонымен қатар орындаудың әрбір кезеңінде не рұқсат етілгенін, талап етілетінін, бұғатталғанын немесе күшейтілгенін де талқылауға мүмкіндік береді.

Контекст үздіксіз дамып келе жатқан операциялық күйге айналғаннан және саясат орындалатын шектеулерге айналғаннан кейін, келесі қиындық - шешімді орындаудың өзі.

Бұл кезеңде мәселе енді іздеуде емес. Ол орындау уақытындағы шешімді басқаруға айналады. Қазіргі агент жүйелерінің көпшілігі әлі де әрекетті генерациялау жүйелері ретінде жұмыс істейді: контекстті алу, оны талқылау, әрекетті жасау, нәтижені орындау. Бірақ операциялық жүйелер ойлау мен орындау арасында қосымша қабатты қажет етеді: шектеулі шешім қабылдау құбыры.

Бұл айырмашылық өте маңызды, себебі операциялық орталарда сирек жағдайда бір ғана жарамды әрекет болады. Оның орнына, оларда мыналар бар:

• мүмкін болатын әрекеттер,
• тыйым салынған әрекеттер,
• күшейтілген әрекеттер,
• кешіктірілген әрекеттер,
• және шартты түрде рұқсат етілген әрекеттер.

Сондықтан жүйенің рөлі тек әрекеттерді жасау ғана емес, сонымен қатар оларды орындау уақытының шектеулері бойынша үздіксіз сүзгіден өткізу және тексеру болып табылады. Жеңілдетілген құбыр келесідей көрінеді: 

Бұл стектегі бірнеше компоненттердің рөлін өзгертеді. Граф енді тек қалпына келтіру үшін пайдаланылмайды. Ол жүйенің жұмыс уақытындағы жұмыс күйіне айналады. 

Саясаттар енді статикалық құжаттама емес. Олар шешім қабылдау кезінде бағаланатын орындалатын орындау уақытының шектеулеріне айналады. Жоспарлаушы енді тапсырмаларды жай ғана секвенирлеумен айналыспайды. Ол белсенді шектеулер кезінде операциялық тұрғыдан мүмкін болатын әрекеттерді жасауға жауапты болады.

Бұл айырмашылық маңызды, себебі көптеген операциялық сәтсіздіктер ақпараттың жетіспеушілігінен емес. Олар өзгермелі жағдайларда дұрыс емес әрекет таңдауынан туындайды.

Мысалға:

• әрекет билік шекарасын бұзуы мүмкін,
• белсенді сәйкестік ережесіне қайшы келеді,
• жарамсыз процесс тізбегін іске қосу,
• немесе одан кейінгі операциялық тәуекелді тудырады.

Мұндай жағдайларда мәселе интеллекттің сәтсіздігінде емес, шектеулердің сәтсіздігінде. Сондықтан автономды жүйелерде шектеулі жоспарлау барған сайын маңызды бола түсуде.

Жүйе жасалған әрекеттерді тікелей орындаудың орнына мыналарды орындауы керек:

• орындылығын бағалау,
• жарамсыз жолдарды кесу,
• орындау уақытының шектеулерін қолдану,
• қақтығыстарды анықтау,
• және қажет болған жағдайда балама орындау жолдарын жасаңыз.

Тұжырымдамалық тұрғыдан алғанда, бұл қазіргі агент жүйелерін дәстүрлі сөйлесу жасанды интеллект архитектураларына қарағанда классикалық жоспарлау жүйелеріне жақындатады.

Келесідей тәсілдер:

• Графтық жоспар,
• шектеулерді қанағаттандыру жүйелері,
• эвристикалық іздеу,
• А* нұсқалары,
• және динамикалық қайта жоспарлау алгоритмдері

жүйелер үздіксіз өзгеріп отыратын жұмыс уақытының шарттарында жұмыс істегеннен кейін қайтадан өзекті бола бастайды.

Дегенмен, классикалық жоспарлаушылардан айырмашылығы, қазіргі заманғы операциялық жүйелер ықтималдық семантикалық интерпретацияны, құрылымдалмаған енгізулерді, дамып келе жатқан график контекстін және динамикалық түрде өзгеретін саясатты қамтиды.

Нәтижесінде, пайда болып жатқан архитектура таза символдық та, таза ықтималдық та емес. Ол гибридті орындау моделіне айналады, мұнда LLM түсіндіреді, графиктер операциялық күйді сақтайды, шектеулер орындау шекараларын анықтайды және жоспарлаушылар сол шекаралар шеңберінде мүмкін болатын әрекеттерді жасайды.

Бұл бөлу маңызды, себебі ол автономды жүйелерге операциялық бақылауды жоғалтпай икемді болып қалуға мүмкіндік береді. Мақсат ықтималдық интеллектті жою емес.

Мақсат - ықтималдық ойлаудың операциялық орындалуды детерминирленген валидация қабаттарысыз тікелей басқаруына жол бермеу.

Операциялық контекст, орындалатын шектеулер және шектеулі жоспарлау орындалу уақытының бір бөлігіне айналғаннан кейін, автономды орындау қарапайым оркестрлеу мәселесі болудан қалады. Жүйе үздіксіз өзгеретін операциялық күйде жұмыс істейді: нысандар дамиды, қатынастар өзгереді, шектеулер белсендіріледі немесе аяқталады, ал орындау мүмкіндігі уақыт өте келе өзгереді.

Мұндай жағдайларда орындау енді тек жасалған нәтижелерге ғана тәуелді бола алмайды. Жүйе контекстті үнемі қайта бағалауы, шектеулерді тексеруі, жоспарларды бейімдеуі және өзгермелі жағдайларда операциялық тұрақтылықты сақтауы керек.

Бұл агент жүйелері қысқа мерзімді жұмыс процестерінен ұзақ мерзімді, мақсатқа бағытталған операцияларға ауысқан сайын одан да маңызды бола түседі. Мұндай орталарда мақсаттар сақталады, бірнеше агенттер өзара әрекеттеседі, ұйымдық шекаралар маңызды және орындау жолдары жұмыс уақытында динамикалық түрде дамиды.

Нәтижесінде, жоспарлау бір реттік тапсырма болудан қалады және үздіксіз операциялық процеске айналады. Дәл осы жерде графикке негізделген операциялық күй, орындалатын саясаттар және шектеулерге бейімделген жоспарлау автономды жүйелер үшін жаңа жұмыс уақыты архитектурасына айнала бастайды.

Уақыт өте келе, бұл архитектура операциялық артефактілердің жаңа буынын енгізуі мүмкін:

• KAOS [10] сияқты мақсатқа бағытталған талаптарды жобалау тәсілдерінен шабыттанған тұрақты мақсаттар,
• Gaia компаниясының көп агентті жүйелерге арналған рөлге бағытталған ұйымдастырушылық модельдеуіне ұқсас орындалатын ұйымдастырушылық рөлдер мен міндеттер [11],
• MOISE+ [12] сияқты ұйымдастырушылық MAS тәсілдеріне ұқсас бейімделгіш үйлестіру құрылымдары,
•  және ұйымдастырушылық логикада және бейімделгіш көпұйымдылық жүйелерін зерттеуде зерттелген ұзақ мерзімді көп агентті жүйелер үшін жұмыс уақытындағы ұйымдастырушылық үлгілер [13][14].

Сондықтан, келесі буын кәсіпорындық жасанды интеллект жүйелері қанша әрекет жасай алатынымен емес, үздіксіз өзгеріп отыратын шектеулер жағдайында үйлесімді мақсатқа бағытталған мінез-құлықты қаншалықты сенімді түрде сақтай алатынымен анықталуы мүмкін.

1. Хоган, А., Бломквист, Э., Кочез, М. және т.б. Білім графиктері. ACM есептеу сауалнамалары, 2021.

2. Эдж, Д. және т.б. Жергіліктіден жаһандыққа: GraphRAG арқылы сұрауға бағытталған қорытындылау тәсілі. arXiv, 2024.

3. Нии, HP Есептерді шешудің қара тақта моделі және қара тақта архитектураларының эволюциясы. AI журналы, 1986 ж.

4. Вулдридж, М. Көп агентті жүйелерге кіріспе. Уайли, 2009.

5. Фербер, Дж. Көп агентті жүйелер: Таратылған жасанды интеллектке кіріспе. Аддисон-Уэсли, 1999.

6. Майерс, KL Үздіксіз жоспарлау және орындау шеңберіне қарай. AAAI, 1999.

7. Рао, А.С., Джордж, М.П. BDI агенттері: теориядан тәжірибеге дейін. ICMAS, 1995.

8. Сери, С., Готтлоб, Г., Танка, Л. Логикалық бағдарламалау және дерекқорлар. Springer, 1990.

9. Абитебул, С., Халл, Р., Виану, В. Дерекқорлардың негіздері. Аддисон-Уэсли, 1995.

[10]. ван Ламсверде, А. (2001). Мақсатқа бағытталған талаптар Инженерия: Гидпен экскурсия.

[11] Вулдридж, М., Дженнингс, Н.Р. және Кинни, Д. (2000). Агентке бағытталған талдау және дизайнға арналған Гая әдіснамасы.

[12] Hannoun, M., Sichman, JS, Boissier, O., & Saayettat, C. (2000). MOISE: Көп агенттік жүйелерге арналған ұйымдық үлгі.

[14] Дигнум, В., және Дигнум, Ф. (2018). Агенттік жүйелердегі ұйымдастырушылық модельдердің рөлі.

[15] Тамерсой, М., Экинджи, Э.Э., Эрдур, Р.К. және Дикенелли, О. (2017). Бейімделгіш көпұйымдастырылған жүйелерге қойылатын талаптар моделі. SASO 2017.