• Жариялау күні
    Мамыр 14, 2025
  • үлес

"Nöronlar hayatta kalmak için birbirleriyle sürekli rekabet içindedir. Her nöron ve nöronlar arasında her bağlantı, kaynaklar için bir diğeriyle mücadele halindedir.

Bir muhasebeci piyanist olmak üzere kariyerini bırakırsa parmaklarına ayrılmış olan nöral alanlar genişleyecek, mikroskopi uzmanı olmaya karar verirse görme korteksi, aradığı küçük ayrıntılara параллель ретінде daha жоғары деңгейлі ерекшеліктерін дамытатын."

Джанлы Девре, Дэвид Иглман

Қалай басталды?

Қалай басталды?

Sadece bir yazıda tüm yapay zeka çalışmalarını anlatmak takdir edersiniz ki mümkün değil. Yine de olabildiğince geçmişe gidip bugüne kadar kat ettiğimiz yolu ifade etmeye çalışacağız.

İlk başlangıç ​​noktamız bundan kabaca 13 yıl önce ImageNet isimli yarışmada adını duyuran AlexNet modeli olacak. Basit bir resim sınıflandırma моделі болса, AlexNet'in 2012 жылы бізге көрсеткен GPU (Graphics Processing Unit) яғни экран карттарының, терең үйрену модельдерінің eğitiminde kullanılabileceği болды:

13 yıl sonra bugün geldiğimiz dünyanın önde gelen ekran картасы өндірушісі NVIDIA dünyanın en değerli şirketi oldu. [2]Девамындағы процессте экран карталарының kabiliyetleri және alan ilgi arttıkça daha büyük yani daha çok parametreli ve daha çok gizli katman бар модельдер өмірімен айналысуға кірісті.

осылайша сапалы бейне, сигнал, бейне модельдері көрмеге бастады. Büyük modelleri yer almayan görevler için az miktarda veri ve işlem gücüyle eğitmeye dayalı ince ayar, transfer learning gibi kavramlar hayatımıza girdi. Lakin doğal dil için büyük bir model üretmek hala мүмкін болмады. 

Bu problem ise yolculuğumuzun bir sonraki önemli adımı olan Attention Is All You Need başlıklı мақала çözülmüş oldu. 8 yıl önce Google'ın yayınladığı мақала бізді Transformer isimli ұғыммен таныстырды. Artık “büyük” diye ifade edebileceğimiz doğal dil modelleri yani LLM'leri eğitebiliyorduk. [4]

2022'nin sonlarında ise (yani bundan sadece 3 yıl önce) ise belki de en önemli adımlardan biri OpenAI tarafından atıldı ve o güne kadar eğitilen hiçbir modelin gösteremediği (muhakeme) kabiliyetine sahip olduğu ChatGPT platformu oldu.

Her ne kadar modelin görevinin sabit oldugu ve eğitim öncesinde belirlendiği klasik makine öğrenmesi ve derin öğrenme modellerinin aksine modelin görevinin doğal dil ile değiştirile bіlіlі az shot / zero-shot modellerinin ilki болмаса, ChatGPT платформасында ұсынылған және GPT-3 арқылы нақты бапталатын GPT моделі, бізді толық мағынамен Task reformulation ile таныстырды. Tamam ama bu neden bu kadar önemli? 

ChatGPT'den sadece birkaç yıl önce bir problemi çözmek için eğitilen her model sadece ilgili модельде жұмыс істей алады. Mesela 2020 жылы Kaggle үстінде tweet sentiment analizi yarışmasının temel мақсаты, tweet'lerdeki duyguyu ifade eden cümlecikleri ayıran modellerin tamamı, sadece bu sorunu çözmek üzerine eğitilmişlerdi. Bu modellerden birini alıp başka bir doğal dil görevinde kullanamazdınız. Мысалы tweet'in hangi dilde yazıldığını modele soramazdınız. Görevi değiştirmenin tek yolu yeniden eğitmekti. Yani konuyla ilgili en az bir uzmana ihtiyaç vardı. ChatGPT ile бұл жағдай ортадан көтерілді. Artık bir doğal dil görevini yapmak için bir model eğitmeye ihtiyacı жоқ. ChatGPT modelinin görevini doğal dil ile (kabaca prompt ile) yeniden değiştirebiliyordunuz. İster tweet'in dilini sınıflandırın, ister duygu durumunu. Әрдайым бір маманға қажет жоқ. [5]

Қазіргі уақытта

Evet artık bir uzmana ihtiyacımız yok. Bilgisayar bilimci olmak zorunda değilsiniz. Kodlama bilmeye de gerek yok. Дәл күйге келтіру? Оқытуды ауыстыру? оқыту? Artık hiçbirine gerek yok. Yazıp konuşabiliyorsanız bu жеткілікті. Öyle ki OpenAI 1 миллиард пайдаланушыға жеткен жағдайда, яғни барлық әлемнің 8'de 1'ine. Bu da demek oluyor ki LLM'ler artık insan hayatının bir parçası haline geldi. [6]

Peki son zamanlarda LLM alanında ne gibi yenilikler oldu?

Peki son zamanlarda LLM alanında ne gibi yenilikler oldu?

LLM'lerin “zeka”sı artık kelime tamamlama becerisinden çok çok-adımlı akıl yürütme kabiliyetiyle değerlendiriliyor. Araştırmalar, zincir-düşünce sistemlerinin küçük göstergelerle bile karmaşık problemi çözme oranını dramatik түрде artırdığını ortaya koyuyor. Бұл OpenAI, Eylül 2024'te таныстыратын o1 сериясын “daha ​​uzun düşünüp sonra cevap veren” ilk modeller ретінде орналастырды. Devasa parametre sayıları, exaFLOPS өлшемli eğitim kümeleri ve milyarlarca token, 2020-2024 arası inovasyonun mottosu oldu. Talebin tetiklediği bu, Nvidia'nın dönem piyasa değerini dokuz ayda 1 trilyon $'dan 3 trilyon $'a taşıdı; öyle ki analistler şirketi “AI çağının petrol devi” diye tanımlamaya başladı. [7] Durumu daha iyi kavrayabilmek için şu grafikleri inceleyelim:

Epoch.ai'den aldığımız ilk grafikte özellikle derin öğrenme tekniğinin popüler olması ile birlikte model eğitmek için gereken işlem gücünün (FLOP жынысынан) yılda ortalama 4.6 kat arttığını görebiliyoruz. Kısaca her yıl 5 kat daha fazla işlem gücüne ihtiyaç duyuyoruz. [8]

SEC(Securities and Exchange Commission)'den aldığımız bu grafikte ise, 2019–2024 жылдарында NVIDIA hissesinin birikimli toplam getirisinin hem S&P 500 hem de Nasdaq 100 endekslerini ezici olarak geride bıraktığı görünüyor. Yani, son beş yılda NVIDIA'ya инвестиция жасағанlar, geniş piyasa endekslerine yatırım yapanlara kıyasla katbekat daha yüksek bir getiri elde etmiş durumda. [9] 

İki grafikte açıkça gösteriyor ki, yapay zeka uygulamaları тездетілген, bu teknolojiyi mümkün kılan donanım ve altyapıya olan talep de katlanarak artıyor. Bir yandan modellerin eğitimi için ihtiyaç duyulan işlem gücü тұрақты түрде yükselirken, diğer yandan bu gücü sağlayan NVIDIA gibi çip өндірушілерінің değeri de benzer bir жылдам artıyor.

Ancak bu trendi bozan bazı özel gelişmelerden de bahsetmemiz gerek. Мысалы, 2025-тің басында Қытайдың орталығындағы DeepSeek, ашық kaynaklı Reasoner-R1 ailesini және dakikası 0,55 $/M token gibi біршама бәсекелестік бағаны анықтау модельдерімен нарыққа кіре отырып, сектордағы денгейлерді өзгерту потенциалын көтергенін көрсетті. Қалыпты пайдалануда OpenAI GPT-4o моделінің бағасы 1 milyon шығыс (çıkış) token'i үшін 10 $ iken, DeepSeek R1 бірдей жұмыс 2,19 $'a yapıp; gece indirimiyle bu rakam 0,55 $'a kadar düşürdü. Бұл Durum Avrupa'daki girişimlerin çoğunun birkaç dakikada OpenAI'den DeepSeek'e göç etmesine neden oldu, өйткені DeepSeek ile шығындары 40 ката дейін төмендетпейді. [10]

DeepSeek'in rakipleri ile арасындағы fiyat uçurumunu көрсететін бір инфографика.

Ancak bu başarının ardında ki tek фактор sadece uygun fiyatlandırma. DeepSeek'in yayınladığı rapor, 671 milyard parametreye sahip R1 modellerinin nasıl üst деңгейде muhakeme шеберлігін sağladığını егжей-тегжейлі ашып koyuyordu. R1'in, o güne kadar alanın en güçlü жабық моделі болып табылатын OpenAI GPT-4o ile бәсекелестік нәтижелерін көрсету, секторда "daha fazla işlem gücü eşittir daha iyi muhakeme" ұғымын елеулі түрде сарсты. Guardian'ın "DeepSeek Paniği" başlıklı haberinde vurguladığı gibi, R1'in kamuya ашылуы Nvidia hisselerinin ilk операция күнінде %18 бағаны жоғалту шамамен 600 миллиард долларлық тарихи бір düşüş yaşadı. [11]

Detaylara inip ve DeepSeek'in paylaştığı мақаланы göz gezdirdiğimiz zaman DeepSeek'in шығындарын қысқарту үшін ciddi anlamda optimizasyon yaptığını görebiliyoruz. Мысалы, sadece Hooper mimarisine sahip kartlarda жұмыс істейтін FlashMLA ki burada DeepSeek'in elinde iyi көлемде Hopper mimarisine sahip H800 (NVIDIA tarafından Çin pazarına sunulan H100 muadili ekran картасы) орналасқан және R1'in бұл карттарда eğitildiğine назар аударыңыз. Ya da MoE (Mixture of Experts) ретінде аталған және модельдің иелігінде болған жалпы саны 671 миллиард параметр үшін (37 миллиард параметр gibi) белсенді болып шығындар есеплама шығындары маңызды мөлшерде азайтылған әдістер мысал келтіре алады. [12]

Son olarak DeepSeek-R1 'in etkileyici performansını küçük және ekonomik modellere aktarmak için пайдаланылатын дистилляция (айту) әдісі де değinmeden geçmeyelim. Eğitim және жұмыс істеу шығындарында қай бағаны оңтайландырулар жасалған болса да R1 hala 671 миллиард параметрді içeriyor yani sadece çalıştırmak için bile >400GB VRAM (4 бит квантизацияға қарамастан) қажет (RTX 4090 тек 24 ГБ VRAM içerdiğiне назар аударыңыз). DeepSeek сапалы ama daha küçük modeller eğitmek мақсатында, hali қазір күшті және жоғары қабілет R1 моделінің өндіретін жоғары сапалы шамамен 800 мың мысалдық санал деректері жинақтарын пайдалана отырып, шағын модельдерді оқу үшін пайдаланады. Бұл 70, 32, 14, 8, 7 және 1,5 миллиардтық дистилеленген R1 модельдерін бөлісу арқылы DeepSeek herkese мүмкіндігі әлі де дәрежеде сапалы R1 ойлау моделі сау болды. [13]

DeepSeek'in detaylarından sonra geldiğimiz noktayı kabaca özetlersek 3 yıl önce ChatGPT ile birlikte doğal dil ile modele ya da artık daha genel bir isim ile yapay zekaya görev atayabilir hale geldik. Başlangıçta bunlar basit görevlerdi. Daha önce verdiğimiz örnekler gibi mesela bir metnin dilini sınıflandırmak ya da farklı bir stil ile yeniden yazdırmak. Devamında ise beklentileri karşılamak adına көптеген yeni teknik ortaya çıktı ve yapay zekanın tek seferde tek bir prompt ile yapabildiği görevlerin kapasitesi arttı. Bunu şu grafikte çok net görebiliriz [14]:

2023 yaz aylarında standart bir matematik testinde %30 başarılı olan modeller artık %90 деңгейде başarılılar. Daha iyi reasoning yani muhakeme yeteneğine sahipler. Daha karmaşık problemleri çözebiliyorlar.

Peki bu bizim için bir durak noktası mı? Elbette değil. İnsanlık olarak yapay zekadan beklentimiz bugünden daha iyi bir muhakeme yetenek. Öyle ki bir insanla aynı деңгейде. Şu an için eğitilmiş insan ile aynı деңгейде çeşitli (genel) ve uzmanlıkta bir yapay zeka mevcut değil. Şu anda uzmanlar bu seviyeyi AGI (Artificial General Intelligence) yani yapay genel zeka olarak isimlendiriyorlar. Bu seviyede ki bir yapay zeka, kabaca bir insanla aynı деңгейде muhakeme yetenekne sahip olacak ve üretildiği an olası yapay zeka күні yeni kırılma нүктесі olacak.

Burada muhakeme becerini kabaca bir başarı ölçütü olarak görebiliriz. Ne kadar yüksek muhakeme beceri o kadar karmaşık problemlerin, görevlerin çözümü. Biz de Galaksiya olarak, bunlardan biri olan RAG'a (Retrieval Augmented Generation) және devamında mevcut модельдерден daha жоғары muhakeme шеберлерінің елде болуын басты назарда ұстадық. MindGraph isimli Knowledge Graph (bilgi çizgesi) tabanlı bir geliştirdik ve kayda değer sonuçlar elde ettik.

MindGraph

MindGraph

Bu tanımı açıklamadan önce LLM'lerin өмірімізге girmesiyle iyice anlam kazanmış ve hala aktif olarak üzerine çalışılan konulardan biri olan RAG'ın (Retrieval Augmented Generation) ne olduğundan bahsetmeliyiz. Daha önce de bahsettiğimiz gibi LLM'ler eğitildikleri verileri пайдаланып girilen prompt'lara cevap üretebiliyorlar. Мысалы, LLM'e “Avrupa'nın yüzölçümü nedir?” gibi bir soru sorarsanız doğru cevabı alırsınız (istisnalar тыс). Peki ya yarın avrupa kıtasının yüzölçümü değişirse? Hatta dinamik bir şekilde her gün değişmeye başlarsa? LLM'de bu bilgiyi nasıl güncelleyeceğiz? Başka bir örnek verelim. LLM'leri hayatımızın artık dünyada kullanabiliyoruz. Sorular soruyoruz ve cevap alabiliyoruz. Peki ama sürekli değişen ya da halka kapalı olan (private) деректер туралы ki sorularımıza қалай жауап аламыз? Mesela bir şirket yönetmeliği, finansallar ya da yasalar. Kısaca LLM'lerin private ya da dinamik veriler hakkında doğru cevaplar üretmesini nasıl sağlarız?

İşte bu soruya şu an verilebilecek ilk cevap RAG. RAG'ın temel amacı sorulacak olan soruya uygun cevabı içeren veriyi soruyla birlikte prompt içinde vermek. Böylece ilgili veriyle modeli yeniden eğitmeden LLM veri ile ilgili sorulara cevap verebilir hale geliyor(En az teoride). Ve evet bu көзқарастың кейбір әлсіз нүктелері var. Олардан ең маңыздысы мәтінмәндік терезенің шектеуі. Мәтінмәндік терезе kabaca bir LLM'in tek seferde girdi және çıktı ретінде işleyebileceği toplam таңбалауыш (bknz: Tokenization ) саны. Bizim için маңызды olan kısım ise özellikle girdi yani input sınırı. Eski derin öğrenme modellerini düşünme. Bir örneklemin size her zaman sabit idi. Мысалы, CNN modelinde kullanılan bir resmin ölçüsü her zaman sabit olmak zorunda idi. Bu bugün de geçerli ve modelden modele göre değişiyor. GPT модельдері үшін бұл максималды өлшем 128,000 токенге дейін. 75 kelimenin kabaca 100 token yaptığını düşünsek bu da kabaca 250 sayfalık bir kitap yapar. Yani bizim private ya da dinamik verimiz bundan daha büyük ise modele tek seferde veremeyiz. [15]

Diğer bir problem ise tüm veriyi modele verebil olduğumuz dahi her zaman doğru cevabı alamayabiliriz. Özellikle veriler düzensiz yani saf metinlerden oluşuyor ve sorduğumuz soru yüksek muhakeme beceri gerektiriyor ise. Bu durumu daha iyi ifade edebilmek için bir metafor kullanalım. Farz edelim ki bir insan uzmana 250 sayfalık bir kitap verip kitapta geçen isimleri alfabetik sırayla söylemesini isteyelim. Uzmanın tamamlaması gereken adımlar kabaca şu şekilde olurdu:

  1. Kitapta geçen tüm isimleri atlamadan tek tek bir yere not al.
  2. Daha sonra not alınan tüm isimleri alfabetik olarak sırala.

Görüldüğü üzere bu sorunun tek bir adımdan oluşmuyor en az makul bir çözüm için en az iki adım ile bu adımları oluşturmak için belli bir деңгейде muhakeme шеберлігіне қажет var. 

Peki bu problemlerin üstesinden nasıl geleceğiz?

Birinci problemi çözmenin tek yolu veriyi bir şekilde context window içine sığdırmaktan geçiyor. Yani veriyi bir şekilde kısaltmamız ya da filtrelememiz lazım ve bunu yaparken mümkünse sorunun cevabını içeren kısma zarar vermememiz lazım. Bu noktada sıklıkla tercih edilen yollardan biri vektörleri пайдалану [15]:

  1. Öncelikle metin chunk (küçük metin parçaları) bölünür.
  2. Кейіннен алдын ала eğitilmiş bir embedding modeli yardımıyla vektörlere dönüştürülür.
  3. Daha sonra bu vektörler bir veritabanında saklanır.
  4. Kullanıcı soru sorduğu zaman ilgili soruda vektöre dönüştürülür.
  5. Sorunun vektörüne en yakın (genelde kosinüs benzerliği kullanılıyor) olan k саны vektör getirilip soru ile birlikte LLM'e verilir.

Böylece metnin sorulan soruyla en alakalı parçaları сүзілген ve context window'a sığmış olur. Vektör çözümü genel basit ve bu alanda sıklıkla kullanılan bir çözüm.

Екінші мәселе. Çünkü sorulan soruyu alt sorunlara parçalamayı ve alt çözümleri oluşturmayı gerektiriyor. Farkettiyseniz bu problem daha önce de belirttiğimiz ve alanın üzerine yöneldiği yüksek muhakeme problemi ile aynı problem. Kabaca LLM'lerden nasıl daha yüksek muhakeme шеберлігін elde edebiliriz? 

Doğal olarak bu alan üzerine жұмыс істейтін барлық адамдар бұл проблемаға байланысты болған жағдайда. Bunlara Thinking modelleri ya da özel skorlama ajanları бар çok ajanlı yapıları örnek verebiliriz. MindGraph ismini verdiğimiz екінші проблеманы шешуге болады.

MindGraph'ın temelini oluşturan bilgi çizgesi, yapısal olarak veriyi node ve edge yani düğüm ve kenarlar olarak tutmakta. Iki düğüm арасында bir kenar olması demek iki düğüm birbirleriyle байланысты olduğu gibi görünüyor. Bu açıdan beyne ve nöronların yapısına benzetebiliriz [17].

Peki biz MindGraph ile bu problemlere nasıl yaklaşıyoruz? Öncelikle birinci problemden başlayalım. Бірінші problemde негізгі мақсатымыз үлкен көлемде veri için ham metin верификациясының soru ile alakalı олан бөліктерін алып geri kalanlarını filtrelemek idi. Burada ne kadar iyi bir filtreleme yaparsak o kadar iyi bir cevap alabildiğimizden ve bu problem için genel olarak vektör tabanlı çözümler kullanıldığında daha önce bahsetmiştik. Lakin vektör tabanlı көзқарасlarında kendine has bazı alt sorunları mevcut.

İçerik filtreleme için sıklıkla tercih edilen вектор tabanlılerde çözümlenebilir ilk sorun bir chunk'ın, sorulan soruyla ne kadar ilgili olup olmamasına dayalı ölçülebilir bir metriğimizin болуы. Bu nedenle filtreleme için sabit bir sayı kullanıyoruz ve sıralanan chunk'lar arasından sadece bu sabit sayı kadar chunk seçmek durumunda kalıyoruz (Buna top k selection deniyor). Kullanılan sabit sayı bu çözümde bir hiper parametre болды ve ne болады verinin typene, içeriğe ve konuya göre değişiklik gösterebiliyor.

İkinci sorun ise metni chunk'lara parçalamanın temelinde yatıyor. Her bir vektörün içerdiği öznitelikler sadece kesilen chunk'u temsil ediyor ve yine bu kesilen chunk'ların өлшемі bir hiper parametre olarak belirleniyor mesela 800 karakter. Ama ya sorulan soruya cevap vermek için minimum alan en az 2000 karakterden oluşuyorsa ne olacak? Hem sordugumuz soruyu parçalanan chunklar ile eşleştiremiyoruz hemde ilgili аламан шамамен там ортадан ikiye böldüğümüz için ciddi көлемді ақпарат жоғалтып жатырмыз. Bir çözüm olarak daha yüksek bir sabit sayı kullanıp chunk'ları büyütebiliriz. Ama bu da aynı деңгейде öznitelikle daha çok informasyonu ifade etmeyi zorunlu kılıyor. Dahası tam ters bir etki yaparak cevabı çok küçük bir alan (mesela 200 karakter) bir bölgeyi bulmamızı çok daha zor hale getiriyor.

İşte bu nedenle MindGraph metodun da vektör tabanlı көзқарастың орнына KG tabanlı bir көзқарас tercih ettik. Bunun için önce veriyi bir bilgi çizgesine oturtuyoruz. Böylece unstructured yani düzensiz ve ham metin verisini structured yani düzenli bir hale getiriyoruz. Daha sonra ise graph engine dilinde SQL benzeri sorgular yazarak veriyi filtreliyoruz [18].

Мысалы, жоғарыда KG'a bakalım. User Iron Man 'in tüm yapımcılarını sırala gibi bir soru sormuş olsun. Bu soruyu cevaplamak için yapmamız gereken çok basit bir Cypher kodu ile Iron Man düğümüne ait tüm komşuları getirmek ve soru ile birlikte LLM'e vermek.

Bu sayede sorulan soruyla ilgili tüm bilgileri, parçalamadan, structured yani düzgün ve öz bir şekilde LLM'e verebilmiş oluyoruz. Filtrelemeyi ise sorulan soruda geçen özneye göre çok rahat bir şekilde yapabildik.

İkinci olarak ifade ettiğimiz ve çözümü için muhakeme yeteneğine ihtiyaç duyduğumuz probleme ise MindGraph ile getirdiğimiz көзқарасты осылай ifade аламыз [19].

Yukarıdaki bilgi çizgesini incelediğimizde kişileri, arkadaşlarını ve çalışanları бар basit bir yapı görüyoruz. Farz edelim ki user Jennifer'in tüm arkadaşlarını ve çalıştıkları firmaları sırala edin. түрінде bir soru sormuş olsun. Şayet bu soruyu егер vektör benzerlik yöntemi ile cevaplamak isteseydik, sorulan soruyu vektöre dönüştürüp ardından tüm chunk vektörleri ile benzerliğine bakmamız gerekecekti. Ve böylece kalitesiz bir cevap almış olacaktık. Ama neden?

Bunun ilk nedeni metinde Jennifer'in X ile arkadaş olduğu bilgisinin орналасқан бөлігі ile X'in Y компания үшін жұмыс ақпаратының болуы мүмкін өте әртүрлі жерлерде geçiyor болуы. Mesela farklı iki dokümanın çok farklı sayfalarında. Bunun ikinci nedeni ise sorunun iki adımdan oluşuyor olması:

Jennifer'in arkadaşlarını bul.

Бұлунан достардың жұмысшылары бұл.

yani tesadüfen eksiksiz ve öz miktarda chunk ve informasyonu filtreleyip LLM'e verdiğimiz farz etsek ile LLM'e ham veriyi verip veriler arasında ilişki kurmasını yani muhakeme yetenek göstermesi bekliyoruz. Hem de hiçbir yol göstermeden.

Şimdi ise MindGraph kullandığımız durumda ise tek yapmamız gereken:

  • Дженнифер'мен,
  • IS_FRIENDS_WITH арқылы arkadaşlarını
  • ЖҰМЫСТАР_ҮШІН арқылы жұмыскерлері

getiren basit bir Cypher query yazmak. Daha sonra dönen bilgiyi soru ile LLM'e vermek. Bu sayede LLM'i az ve öz bilgi ile beslemiş ve gereksiz bilgiden arındırmış oluyoruz. Daha önemlisi ise bilgilerde geçen nesne, özne ve kavramları yani kısaca entity'leri node ve edge yapısında birbirlerine bağlı şekilde verdiğimiz için muhtemel muhakeme yollarını LLM'e işaret etmiş oluyoruz.

нәтиже

Нәтиже ретінде, MindGraph көзқарасының потенциалын тексерген тесттер және алдыңғы жұмыс өте қызықты verici нәтижелер пайда болды. 

MindGraph'ı klasik RAG әдістері ile karşılaştırdığımızda, özellikle maliyet avantajları ve muhakeme yeteneğindeki çarpıcı artışı net bir şekilde görüyoruz. Бұған мысал ретінде бір клиентімізде, RAG орнына дәл баптау әдісін таңдау еттік және толығымен тұтынушыға ерекше, біршама ерекшеленген бір модельді әзірледік. Бұл процесс kabaca 9000 dolara mal oldu. MindGraph әдісін kullandığımızda ise çok daha төмен шығындармен, сонымен қатар daha жоғары muhakeme kabiliyetine sonuçlar elde edebildiğimizi gördük.

MindGraph'ın avantajlarını daha iyi ifade etmek için somut мысалдар арқылы ilerleyelim. Diyelim ki bir gıda şirketinde üretimden sorumlu bir yöneticisiniz. Üretim hattınızda kritik bir ekipman olan paketleme makinesi durdu ve hızlıca karar vermeniz gerekiyor. "Paketleme makinesi durursa, önümüzdeki ay sipariş teslimatlarımız, stoklarımız ve lojistik nasıl etkilenir?" gibi bir soruya дәстүрлі вектор RAG әдістеріyle doğru cevap almak өте zor болады. Çünkü bu tarz sorular çok sayıda verinin analiz edilmesini ve karmaşık ilişkilerin değerlendirilmesini gerektiriyor. Oysa MindGraph арқасында, өндіріс hattı, stok ve teslimat gibi әртүрлі kaynaklardan elde edilen verileri grafik tabanlı bir yapıya oturtarak tek seferde net bir cevap alabiliyoruz.

Bir başka örnekte ise daha stratejik bir soruya odaklanalım. Erdem, Galaksiya'nın büyük ortağıdır. Galaksiya ise Deepin'in, Deepin de Twinize'ın büyük ortağı konumundadır. Қазір Erdem, стратегиялық бір hamle öncesinde şu сұрақтардың жауаптарын arıyor болуы мүмкін:

  • "Deepin компаниясындағы hisse oranımız %20 azalırsa, Twinize және dolaylı kontrolümüz nasıl etkilenir?"
  • "Galaksiya olarak Twinize'ın büyümesinden elde edeceğimiz toplam değer өсімі, Deepin'deki ықтимал bir küçülmenin yaratacağı zararı telafi eder mi?"

Bu tarz çok katmanlı ve ilişkisel soruları дәстүрлі yöntemlerle ya da basit RAG көзқарасlarıyla çözmek айтарлықтай imkansızdır, өйткені bu senaryolar yüksek seviyede muhakeme gerektirir. MindGraph бұл tip күрделі қарым-қатынастары дұрыс және тиімді түрде шешілген, ақылды сұраулармен жұмыс істейді. Осылайша, бір маманның көмегіне немесе жаңа бір eğitim процесіне қажет емес, бұл сұрақтардың жауаптарын net olarak alabilmekteyiz.

MindGraph'ın diğer bir önemli avantajı ise güncelleme kolaylığı. Нәзік баптау моделі оның сенарио өзгергенінде қайта eğitimi талап етеді, MindGraph'ın икемді құрылымы арқылы bilgi çizgesini güncelleyerek және gerçek zamanlı бейімделуді қамтамасыз ете алады. Bu sayede hem maliyetleri düşürüyor, hem de operasyonel süreçleri basitleştiriyoruz.

Galaksiya olarak, MindGraph metodunu geliştirmeyi, bilgi çizgesi tabanlı көзқарастары жоғары muhakeme beceri gerektiren tüm alanlarda uygulamayı ve bu yöntemlerle yapay zeka modellerinin kabiliyetlerini daha da ileri taşımayı sürdürmekteyiz. Bir sonraki adımda sizlerle daha егжей-тегжейлі эталондық нәтижелер бөлісетін болады. О замана дейін

Сабырлылық сақта…

Бехчет ШЕНТҮРК, машинаны оқыту инженері

Сілтемелер

[ 1]: viso.ai. 2024. «AlexNet: Революциялық терең оқыту архитектурасы». Соңғы рет 5 мамырда кірілді. https://viso.ai/deep-learning/alexnet/.

[2]: CNBC. 2025. «Nvidia әлемдегі ең құнды компания атану үшін Apple-ді тағы да басып озды». Соңғы рет 5 мамырда кірген. https://www.cnbc.com/2025/01/21/nvidia-passes-apple-again-to-become-worlds-most-valuable-company-.html.

[3]: Нейрондық желілер және терең оқыту. 2019. «Неліктен терең нейрондық желілерді үйрету қиын?.» Соңғы рет 5 мамырда қол жеткізілді. http://neuralnetworksanddeeplearning.com/chap5.html.

[4]: Васвани, Ашиш, Ноам Шазир, Ники Пармар, Якоб Ускорейт, Ллион Джонс, Айдан Н. Гомес, Лукаш Кайзер және Иллия Полосухин. 2017. «Сізге тек назар аудару керек». arXiv (Корнелл университеті), қаңтар. https://doi.org/10.48550/arxiv.1706.03762.

[5]: kaggle. 2020. «Твит арқылы сезімді шығару». Соңғы рет 5 мамырда қол жеткізген. https://www.kaggle.com/competitions/tweet-sentiment-extraction/overview.

[6]: Forbes. 2025. «ChatGPT 1 миллиард пайдаланушыға жетті ме? «Небәрі бірнеше апта ішінде екі есе өсті» дейді OpenAI бас директоры. Соңғы рет 5 мамырда кірген. https://www.forbes.com/sites/martineparis/2025/04/12/chatgpt-hits-1-billion-users-openai-ceo-says-doubled-in-weeks/.

[7]: Технология журналы. 2024. «Жасанды интеллект бумы Nvidia құндылығын Microsoft-тан асып түсуге итермелейді». Соңғы рет 5 мамырда кірілді. https://technologymagazine.com/digital-transformation/gen-ai-boom-causes-nvidia-value-to-overtake-microsoft.

[8]: EPOCH AI. 2025. «Айтты AI үлгілері». Соңғы рет 5 мамырда қолжетімді. https://epoch.ai/data/notable-ai-models.

[9]: SEC. 2024. “NVIDIA CORPORATION.” Соңғы рет 5 мамырда қол жеткізген. https://www.sec.gov/Archives/edgar/data/1045810/000104581024000029/nvda-20240128.htm.

[10]: Reuters. 2025. “DeepSeek Еуропаның технологиялық фирмаларына жаһандық AI жарысында қуып жетуге мүмкіндік береді” Соңғы рет 5 мамырда қол жеткізген. https://www.reuters.com/technology/artificial-intelligence/deepseek-gives-europes-tech-firms-chance-catch-up-global-ai-race/2025-02-03.

[11]: The Guardian. 2025. «Технологиялық миллиардерлер DeepSeek тудырған қор нарығындағы сатылымнан шамамен 100 миллиард доллар жоғалтты». Соңғы рет 5 мамырда кірген. https://www.theguardian.com/technology/2025/jan/28/deepseek-selloff.

[12]: github. 2025. “FlashMLA.” Соңғы рет 5 мамырда қол жеткізілді. https://github.com/deepseek-ai/FlashMLA.

[13]: ollama. 2025. «deepseek-r1». Соңғы рет 5 мамырда кірілді. https://ollama.com/library/deepseek-r1:671b.

[14]: EPOCH AI. 2025. «АҚШ үлгілері қазіргі уақытта американдық емес үлгілерден асып түседі.» Соңғы рет 5 мамырда қолжетімді. https://epoch.ai/data-insights/us-vs-non-us-performance.

[15]: openai. 2025. «Токендер дегеніміз не және оларды қалай санауға болады?» Соңғы рет 5 мамырда кірілді. https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them.

[16]: E2E Cloud. 2025. «Elasticsearch Vector DB көмегімен озық RAG әдістерін енгізу». Соңғы рет 5 мамырда кірілді. https://www.e2enetworks.com/blog/implementing-advanced-rag-techniques-with-elasticsearch-vector-db.

[17]: Сяо, Минцин, Исин Чжу, Ди Хе және Чжоучен Лин. 2024. «Графикалық ойлауға арналған синаптикалық кідіріспен уақытша серпінді нейрондық желілер». arXiv (Корнелл университеті), мамыр. https://doi.org/10.48550/arxiv.2405.16851.

[18]: Ли, Джуньи, Тяньи Тан, Уэйн Син Чжао, Чжичен Вэй, Николас Цзин Юань және Джи-Ронг Вэн. 2021. «Алдын ала дайындалған тілдік модельдермен бірнеше кадрлық білімді графтан мәтінге айналдыру». arXiv (Корнелл университеті), қаңтар. https://doi.org/10.48550/arxiv.2106.01623.

[19]: Аналитика йоги. 2022. «Nvidia Apple-ді тағы да басып озып, әлемдегі ең құнды компания болды». Соңғы рет 5 мамырда қол жеткізілді. https://vitalflux.com/nosql-data-models-concepts-examples/.

Қатысты Мақалалар