Қазіргі заманғы жасанды интеллект агенттеріндегі жетіспейтін қабат

Қазіргі заманғы жасанды интеллект жүйелері енді бір сатылы өзара әрекеттесумен шектелмейді. SWE-Bench, WebArena, OSWorld және автономды кодтау орталары сияқты эталондарда агенттер мақсатқа жеткенге дейін жүздеген тізбекті әрекеттерді орындай алады. Бұл мәселенің мәнін түбегейлі өзгертеді. 

Орындау тізбектері ұзарған сайын бірнеше маңызды сәтсіздік режимдері пайда болады:

• Қатенің таралуы: Орындаудың басындағы шағын ойлау қателігі ондаған кейінгі қадамдарға әсер етуі мүмкін. Жүйе бастапқы мақсаттан ауытқып, жөндеу циклдарына енуі немесе тапсырма аяқталды деген жалған қорытынды жасауы мүмкін.

• Штат дрейфі: Ұзақ уақыт жұмыс істейтін орталар файлдарды үздіксіз жаңартады, транзакциялар аяқталады, API интерфейстері дамиды, пайдаланушылар жүйемен өзара әрекеттеседі. Дегенмен, қазіргі агенттердің көпшілігі күйді сұрау тарихы мен токен контексті арқылы жанама түрде сақтайды. Уақыт өте келе, бұл келесілер арасында алшақтық тудырады:

• Гол дрейфі: Агенттер көбінесе қосымша тапсырмаларға шамадан тыс назар аударады және бастапқы мақсатпен үйлесімділігін жоғалтады. Тапсырма тереңдігі артқан сайын, жүйелер жергілікті әрекеттерді оңтайландыруы, қажетсіз циклдарды қайталауы немесе мерзімінен бұрын аяқталуы мүмкін.
• Контексттің шаршауы: Көптеген агент жүйелері орындалу тарихын модель контексті терезесіне қайта-қайта береді. Тапсырмалар ұзарған сайын: токенді пайдалану күшейеді, кідіріс артады, маңызды мәліметтер қысылады немесе жоғалады.

Сондықтан ұзақ уақыт жұмыс істейтін жүйелер тек ойлау мәселесіне ғана емес, сонымен қатар жад архитектурасы мәселесіне де тап болады.

Міне, осы жерде жоспарлау маңызды болып табылады. Жоспарлаушы уақытша тұрақтылық қабаты ретінде әрекет етеді, ол мыналарға жауапты:

• әлемдік мемлекеттердің үйлесімділігін сақтау,

• ұзақ мерзімді мақсаттарды бақылау,

• ауысуларды тексеру,

• тәуелділіктерді басқару,

• және прогресті үнемі тексеріп отырады.

Тапсырмалар көкжиегі кеңейген сайын жоспарлау қарапайым оңтайландыру мәселесі болудан қалады және тұрақтылық инфрақұрылымы мәселесіне айналады. Дегенмен, бұл тұрақтылыққа қол жеткізу жүйелерден уақытша үйлесімділікті ғана емес, сонымен қатар операциялық ортаның күрделі ережелері мен мыңдаған шектеулерін басқаруды талап етеді.

Қазіргі агент жүйелерінің ең үлкен кемшіліктерінің бірі - шектеулердің жарылуы. Көптеген LLM негізіндегі агенттер шектеулерді модель контекстінде жанама түрде «есте сақтауға» тырысады. Бұл қарапайым жұмыс процестері үшін жұмыс істеуі мүмкін.

Нақты кәсіпорын орталары әртүрлі. Операциялық процестер көбінесе бір уақытта мыңдаған шектеулерді қамтиды:

• АЖ ережелері,
• KYC процедуралары,
• бекіту иерархиялары,
• санкциялық шектеулер,
• өкілеттік матрицалары,
• ішкі саясат,
• уақытша тәуелділіктер.

Шектеулер саны өскен сайын, ықтималдық ойлау тұрақсыз бола түседі.

Қиындық тек шектеулерді есте сақтауда ғана емес.
Олардың арасындағы үйлесімділікті сақтау.

Жүйе келесі жағдайларда жергілікті түрде ықтимал әрекеттерді жасай алады:

• саясатты бұзу,
• бекіту тәртібін бұзу,
• билік шекараларын елемеу,
• немесе жарамсыз жұмыс күйлерін жасау.

Бұл маңызды айырмашылықты көрсетеді:

Жүйелер автономды бола бастаған сайын, шектеулерді өңдеу енді сұраулардың ішінде жасырын болып қала алмайды. Сенімді агент жүйелері айқын шектеу механизмдерін, символдық валидацияны, шешушіні біріктіруді және ресми ауысуды тексеруді талап етеді. 

Жоспарлау инфрақұрылымы бар болғандықтан, жоспарлау тек тапсырмаларды ретке келтіру ғана емес. Жоспарлау үздіксіз шектеулерді тексеруге айналады. Дегенмен, жүйеге бірнеше автономды актерлер қосылған кезде бұл қиындық экспоненциалды түрде артады, бұл үздіксіз шектеулерді тексеруді жүйелік үйлестіру мәселесіне айналдырады.

Қазіргі заманғы жасанды интеллекттегі ең көп таралған болжамдардың бірі - көбірек агенттерді қосу автоматты түрде көбірек интеллект жасайды деген болжам. Іс жүзінде керісінше жағдай жиі кездеседі. Агенттер саны өскен сайын үйлестіру күрделілігі тез артады, қарама-қайшы мақсаттар, қайталанатын жұмыс, сәйкес келмейтін күй жаңартулары, айналмалы делегация, тығырыққа тірелу және жарыс жағдайлары пайда бола бастайды.

Нақты жоспарлау деңгейі болмаса, жүйелер келесі әрекеттерді орындауда қиындықтарға тап болады: орындауды синхрондау, рөл шекараларын қамтамасыз ету, тәуелділіктерді басқару және үйлесімді ұйымдастырушылық мінез-құлықты сақтау.

Нәтижесінде, көптеген көп агентті архитектуралар масштабтың ұлғаюымен операциялық тұрақсыздыққа ұшырайды. Міне, осы жерде жоспарлау маңызды болып келеді. Жоспарлаушы мыналарды қамтамасыз етеді: өкілеттіктерді беру, тәуелділікті реттеу, синхрондау және жаһандық тапсырмаларды үйлестіру.

Бұл үйлесімді архитектура шеңберінде жоспарлау жай ғана тапсырмаларды бөлу емес. Ол бірнеше автономды актерлер арасындағы жүйелік үйлесімділікті сақтайтын механизмге айналады. Дегенмен, бұл ұйымдастырушылық үйлестіруді және ұзақ мерзімді үйлесімділікті сақтау қазіргі агенттік жүйелердің негізгі инфрақұрылымдық әлсіздігімен, яғни жад архитектурасымен қақтығысады.

Қазіргі заманғы тілдік модельдер негізінен сөздерге негізделген. Ұйымдар құрылымдарға негізделген. Нақты кәсіпорын орталары субъектілерге, қарым-қатынастарға, міндеттемелерге, меншік құрылымдарына, билік тізбектеріне және операциялық тәуелділіктерге негізделген.

Мысалы, «Бұл компания тәуекелді ме?» деген сұрақ сирек таза тілдік мәселе болып табылады. Бұл көбінесе келесілерді қамтитын графикалық мәселе болып табылады:

• акционерлер желілері,
• тарихи оқиғалар,
• реттеуші қатынастар,
• байланысты ұйымдар,
• және атқарушы байланыстар.

Бұл негізгі алшақтықты тудырады:

LLM-дер мәтінді түсіндіруде өте тиімді,

бірақ кәсіпорынның шешім қабылдауы құрылымдалған операциялық шындық туралы ойлауды қажет етеді. Семантикалық негіздеме болмаса, агент жүйелері ұйымдық контекстті дұрыс түсінбеуі, жасырын тәуелділіктерді елемеуі, реляциялық тәуекел сигналдарын жіберіп алуы немесе байланысты нысандар арасында сәйкес келмейтін шешімдер қабылдауы мүмкін.

Міне, сондықтан жоспарлау білім графиктері, нысандар арасындағы байланыстар, операциялық онтологиялар және графикке негізделген ойлау сияқты құрылымдалған семантикалық қабаттарды қажет етеді.

Демек, жоспарлау енді тек сұраныстармен ғана басқарылмайды, ол ұйымның өзінің нақты операциялық құрылымына негізделеді.

Қазіргі заманғы агент жүйелерінің ең маңызды кемшіліктерінің бірі - тексерудегі алшақтық. LLM әрекеттерді, жауаптарды және жоспарларды жасауда өте тиімді. Бірақ тек генерациялау жеткіліксіз. Көптеген жүйелерде әлі де мыналарды анықтаудың сенімді механизмдері жоқ:

• әрекеттің шынымен жарамды екендігі,
• шектеулер бұзылған ба,
• мақсатқа шынымен қол жеткізілді ме, жоқ па,
• немесе алынған күй операциялық тұрғыдан тұрақты болып қала ма.

Бұл негізгі айырмашылықты тудырады:

Жүйе ұйымдық саясатты бұза отырып, тәуелділіктерді бұза отырып, жарамсыз ауысулар жасай отырып немесе сәтті аяқталуды елестетіп, сенімді нәтижелер шығаруы мүмкін.

Бұл мәселе қаржы, денсаулық сақтау, энергетика және реттелетін кәсіпорын операцияларында барған сайын қауіпті бола түсуде, мұнда дұрыстық міндетті емес.

Жүйелер автономды бола бастаған сайын, тексеру енді екінші ой болып қала алмайды. Сенімді агент архитектуралары формальды валидаторларды, шектеулерді таратуды, шешушілерді біріктіруді, саясат қозғалтқыштарын және орындалуды тексеру қабаттарын қажет етеді.

Тексеру бірінші парадигмасы бойынша жоспарлау тек келесі әрекетті шешу ғана емес. Бұл бүкіл процесс барысында орындалудың жарамды болып қалатынын үздіксіз тексеру туралы.

Қазіргі заманғы агент жүйелерінің көпшілігі жеке тұлғалар сияқты ойланады. Нақты ұйымдар бұлай жұмыс істемейді. Кәсіпорындық орталар рөлдер, өкілеттік шекаралары, өкілеттіктер тізбегі, міндеттемелер, эскалация механизмдері және бекіту иерархиялары айналасында құрылымдалған.

Тапсырма көбінесе тек «Не істеу керек?» деген сұрақтармен ғана емес, сонымен қатар кімге, қандай шарттармен, қандай тәртіппен және кімнің мақұлдауымен орындауға рұқсат етілгенімен де анықталады.

Бұл көптеген қазіргі агент архитектуралары үшін үлкен шектеулер тудырады.

Ұйымдастырушылық негіздеме болмаса, автономды жүйелер өкілеттік шекараларын бұзуы, бекіту ағындарын айналып өтуі, қарама-қайшы әрекеттер жасауы немесе бөлімдер мен субъектілер арасында операциялық сәйкессіздіктер тудыруы мүмкін.

Бұл мәселе реттелетін кәсіпорын орталарында барған сайын ушығып барады, мұнда ұйымдастырушылық құрылымның өзі сәйкестіктің бір бөлігі болып табылады. Нәтижесінде, жоспарлау енді тек міндеттер мен әрекеттерге ғана бағыттала алмайды. Ол сондай-ақ келесі мәселелерді қарастыруы керек: ұйымдастырушылық рөлдер, өкілеттік модельдері, өкілеттіктерді беру ережелері және институционалдық шектеулер.

Ұйымдастырушылық ойлауды қолдау үшін жоспарлау тек операциялық үйлестіру ғана емес, сонымен қатар ұйымдастырушылық үйлестіру болып табылады.

Қазіргі заманғы агент жүйелерінің көпшілігі жадты қалпына келтіру мәселесі ретінде қарастырады. Іс жүзінде жад әлдеқайда күрделі. Ұзақ уақыт жұмыс істейтін автономды жүйелер бір мезгілде бірнеше жад түрлерін, эпизодтық жадты, семантикалық жадты, процедуралық жадты және әлемдік күй жадын басқаруы керек.

Дегенмен, көптеген қазіргі архитектуралар негізінен векторлық дерекқорларға, ұқсастықтарды іздеуге және сығылған сұраулар тарихына сүйенеді. Бұл орындау тізбектері ұзарған сайын елеулі шектеулер тудырады.

Жүйе уақытша тұрақтылықты жоғалтып, бұрынғы міндеттемелерді ұмытып, әрекеттерді қайталап немесе ескірген әлемдік болжамдарға сүйене отырып, тиісті ақпаратты алуы мүмкін. Мәселе тек ақпаратты есте сақтауда ғана емес.

Мәселе уақыт өте келе жұмыстың үздіксіздігін сақтауда.

Автономды жүйелер дамыған сайын, жад енді пассивті сақтау қабаты болып қала алмайды. Ол белсенді операциялық құрылымға айналуы керек. Міне, осы жерде жоспарлау маңызды болып табылады. Жоспарлаушы келесі әрекеттерді орындай алатын құрылымдалған жад тұтынушысы ретінде әрекет етеді:

• әлемдік мемлекеттің тұрақтылығын сақтау,
• ұзақ мерзімді мақсаттарды бақылау,
• орындау тарихын сақтау,
• және уақыт өте келе дамып келе жатқан контекстті синхрондау.

Белсенді операциялық құрылым ретінде жоспарлау және жад бөлек компоненттер емес, терең өзара байланысты инфрақұрылым қабаттарына айналады.

Агенттік жасанды интеллекттің негізгі мәселесі көбінесе интеллект мәселесі ретінде қарастырылады.

Модельдер жақсырақ ойлай ала ма?
Олар жақсырақ жоспарлар құра ала ма?
Олар неғұрлым автономды бола ала ма?

Бірақ агент жүйелері демонстрациялардан нақты операциялық орталарға ауысқан сайын, басқа шындық пайда болады.

Негізгі кедергілер барған сайын артып келеді:

• консистенциясы,
• тексеру,
• үйлестіру,
• шектеулерді басқару,
• ұйымдастырушылық негіздеме,
• және ұзақ мерзімді операциялық тұрақтылық.

Қазіргі заманғы жасанды интеллект жүйелері қазірдің өзінде әсерлі жергілікті мінез-құлықты тудыра алады.

Олар әлі күнге дейін уақыт өте келе жаһандық үйлесімділікті сақтау үшін күресіп келеді.