MindGraph: Daha Akıllı, Daha Ucuz, Daha Güçlü

Sadece bir yazıda tüm yapay zeka çalışmalarını anlatmak takdir edersiniz ki mümkün değil. Yine de olabildiğince geçmişe gidip bugüne kadar kat ettiğimiz yolu ifade etmeye çalışacağız.

İlk başlangıç ​​noktamız bundan kabaca 13 yıl önce ImageNet isimli yarışmada adını duyuran AlexNet modeli olacak. Basit bir resim sınıflandırma model bile olsa AlexNet'in 2012 yılında bize gösterdiği şey GPU (Graphics Processing Unit) yani ekran kartlarının, derin öğrenme modellerinin eğitiminde kullanılabileceği oldu:

13 yıl sonra bugün geldiğimiz noktada dünyanın önde gelen ekran kartı üreticisi NVIDIA dünyanın en değerli şirketi oldu. [2]Devamındaki süreçte ekran kartlarının kabiliyetleri ve alan ilgi arttıkça daha büyük yani daha çok parametrili ve daha çok gizli katman içeren modeller hayatımıza girmeye başladı.

Böylece daha kaliteli görüntü, sinyal, video modelleri görmeye başladık. Büyük modelleri orijinalinde yer almayan görevler için az miktarda veri ve işlem gücüyle eğitmeye dayalı fine-tune, transfer learning gibi kavramlar hayatımıza girdi. Lakin doğal dil için büyük bir model üretmek hala mümkün değildi. 

Bu problem ise yolculuğumuzun bir sonraki önemli adımı olan Вниманието е всичко, от което се нуждаете başlıklı makale çözülmüş oldu. 8 yıl önce Google'ın yayınladığı makale bizi Transformer isimli kavram ile tanıştırdı. Artık “büyük” diye ifade edebileceğimiz doğal dil modelleri yani LLM'leri eğitebiliyorduk. [4]

2022'nin sonlarında ise (yani bundan sadece 3 yıl önce) ise belki de en önemli adımlardan biri OpenAI tarafından atıldı ve o güne kadar eğitilen hiçbir modelin göstereremediği bir reasoning (muhakeme) kabiliyetine sahip olduğu gösteren ChatGPT platformu oldu.

Her ne kadar modelin görevinin sabit olduğu ve eğitim öncesinde belirlendiği klasik makine öğrenmesi ve derin öğrenme modellerinin aksine modelin görevinin doğal dil ile değiştirilebildiği small-shot / zero-shot modellerinin ilki olmasa da, ChatGPT platformunda sunulan ve GPT-3 üzerinden fine tune edilen GPT models, bizi tam anlamıyla Task reformulation ile tanıştırdı. Tamam ama bu neden bu kadar önemli? 

ChatGPT'den sadece birkaç yıl önce bir problemi çözmek için eğitilen her model sadece ilgili model üzerinde çalışabiliyordu. Mesela 2020 yılında Kaggle üzerindeki анализ на настроението в туит yarışmasının temel amacı olan, tweet'lerdeki duyguyu ifade eden cümlecikleri ayıran modellerin tamamı, sadece bu sorunu çözmek üzerine eğitilmişlerdi. Bu modellerden birini alıp başka bir doğal dil görevinde kullanamazdınız. Örneğin tweet'in hangi dilde yazıldığını modele soramazdınız. Görevi değiştirmenin tek yolu yeniden eğitmekti. Yani konuyla ilgili en az bir uzmana ihtiyaç vardı. ChatGPT ile bu durum ortadan kalktı. Artık bir doğal dil görevini yapmak için bir model eğitmeye ihtiyacınız yoktu. ChatGPT modelin görevini doğal dil ile (kabaca prompt ile) yeniden değiştirebiliyordunuz. İster tweet'in dilini sınıflandırın, ister duygu durumunu. Artık bir uzmana ihtiyaç yoktu. [5]

Evet artık bir uzmana ihtiyacımız yok. Bilgisayar bilimci olmak zorunda değilsiniz. Кодлама билмейе де герек йок. Фина настройка? Прехвърляне на обучение? Eğitim? Artık hiçbirine gerek yok. Yazıp konuşabiliyorsanız bu Yeterli. Öyle ki OpenAI 1 милиар kullanıcıya ulaşmış durumda yani tüm dünyanın 8'de 1'ine. Bu da demek oluyor ki LLM'ler artık insan hayatının bir parçası haline geldi. [6]

LLM'lerin “zeka”sı artık kelime tamamlama becerisinden çok çok-adımlı akıl yürütme kabiliyetiyle değerlendiriliyor. Araştırmalar, zincir-düşünce sistemlerinin küçük göstergelerle bile karmaşık problemi çözme oranını dramatik biçimde artırdığını ortaya koyuyor. Bu yüzden OpenAI, Eylül 2024'te tanıttığı o1 serisini “daha ​​uzun düşünüp sonra cevap veren” ilk modeller olarak konumlandırdı. Devasa parameter sayıları, exaFLOPS ölçekli eğitim kümeleri ve milyarlarca token, 2020-2024 arası inovasyonun mottosu oldu. Talebin tetiklediği bu dönem, Nvidia'nın piyasa değerini dokuz ayda 1 trilyon $'dan 3 trilyon $'a taşıdı; öyle ki analistler şirketi „AI çağının petrol devi” diye tanımlamaya başladı. [7] Durumu daha iyi kavrayabilmek için şu grafikleri inceleyelim:

Epoch.ai'den aldığımız ilk grafikte özellikle derin öğrenme tekniğinin popüler olması ile birlikte model eğitmek için gereken işlem gücünün (FLOP cinsinden) yılda ortalama 4.6 kat arttığını görebiliyoruz. Kısaca her yıl 5 kat daha fazla işlem gücüne ihtiyaç duyuyoruz. [8]

SEC (Комисия по ценните книжа и борсите)'den aldığımız bu grafikte ise, 2019–2024 döneminde NVIDIA hissesinin birikimli toplam getirisinin hem S&P 500 hem de Nasdaq 100 endekslerini ezici biçimde geride bıraktığı görünüyor. Yani, son beş yılda NVIDIA'ya yatırım yapanlar, geniş piyasa endekslerine yatırım yapanlara kıyasla katbekat daha yüksek bir getiri elde etmiş durumda. [9] 

İki grafikte açıkça gösteriyor ki, yapay zeka uygulamaları hızla yaygınlaştıkça, bu teknolojiyi mümkün kılan donanım ve altyapıya olan talep de katlanarak artıyor. Bir yandan modellerin eğitimi için ihtiyaç duyulan işlem gücü sürekli yükselirken, diğer yandan bu gücü sağlayan NVIDIA gibi çip üreticilerinin değeri de benzer bir hızla artıyor.

Fakat bu trendi bozan bazı özel gelişmelerden de bahsetmemiz gerek. Örneğin 2025'in başında Çin merkezli DeepSeek, açık kaynaklı Reasoner-R1 ailesini и dakikası 0,55 $/M token gibi oldukça rekabetçi fiyatlandırma modelleriyle piyasaya girerek, sektördeki dengeleri değiştirme potansiyeli taşıdığını gösterdi. Нормална цена на OpenAI GPT-4o модел за 1 милион изходен токен за 10 $, DeepSeek R1 струва 2,19 $ на ден; gece indirimiyle bu rakam 0,55 $'a kadar düşürdü. Bu durum Avrupa'daki girişimlerin çoğunun birkaç dakikada OpenAI'den DeepSeek'e göç etmesine neden oldu çünkü DeepSeek ile maliyetleri 40 kata kadar düşürmeyi başardılar. [10]

DeepSeek'in rakipleri ile arasındaki fiyat uçurumunu gösteren bir infografik.

Ancak bu başarının ardında ki tek faktör sadece uygun fiyatlandırma değildi. DeepSeek'in yayınladığı rapor, 671 милиарни параметри sahip R1 modellerinin nasıl üst düzey muhakeme yeteneği sağladığını detaylı biçimde ortaya koyuyordu. R1'in, o güne kadar alanın en güçlü kapalı model olan OpenAI GPT-4o ile rekabet edebilen sonuçlar sunması, sektörde "daha fazla işlem gücü eşittir daha iyi muhakeme" anlayışını ciddi şekilde sarstı. Guardian'ın "DeepSeek Paniği" başlıklı haberinde vurguladığı gibi, R1'in kamuya açılması Nvidia hisselerinin ilk işlem gününde %18 değer kaybederek yaklaşık 600 милиарда долара цена за изчерпване yaşamasına neden oldu. [11]

Detaylara inip ve DeepSeek'in paylaştığı makaleyi göz gezdirdiğimiz zaman DeepSeek'in maliyetleri kısmak için ciddi anlamda optimizasyon yaptığını görebiliyoruz. Örneğin sadece Hooper mimarisine sahip kartlarda çalışan FlashMLA ki burada DeepSeek'in elinde iyi miktarda Hopper mimarisine sahip H800 (NVIDIA tarafından çin pazarına sunulan H100 muadili ekran kartı) bulunduğuna и R1'in bu kartlarda eğitildiğine dikkat çekelim. Ya da MoE (Смес от експерти) olarak adlandırılan ve modelin sahip olduğu toplam 671 milyar parameter içinden her işlemde yalnızca küçük bir bölümü (37 milyar parameter gibi) aktif olarak kullanılarak hesaplama maliyeti önemli ölçüde azaltan yöntemler örnek verilebilir. [12]

Son olarak DeepSeek-R1 'in etkileyici performansını küçük ve ekonomski modellere aktarmak için kullanılan distilasyon (дестилация) yöntemi de değinmeden geçmeyelim. Eğitim ve çalıştırma maliyetlerinde kayda değer optimizasyonlar yapılmış olsa da R1 hala 671 milyar parameter içeriyor yani sadece çalıştırmak için bile >400GB VRAM (4 bit quantization'a rağmen) lazım (RTX 4090 sadece) 24GB VRAM içerdiğine dikkat çekelim). Bu durum bizati farkında olan DeepSeek kaliteli ama daha küçük modeller eğitmek amacıyla, hali hazırda güçlü ve yüksek kapasiteli R1 modelinin ürettiği yine yüksek kaliteli yaklaşık 800 bin örneklik sanal veri kümesini kullanarak daha küçük modellerin eğitimi için kullanmış. Имате 70, 32, 14, 8, 7 и 1,5 милиарда дестила за R1 моделиране на DeepSeek, което ще ви помогне да намерите калители в R1 мислещ модел, който е стар. [13]

DeepSeek'in detaylarından sonra geldiğimiz noktayı kabaca özetlersek 3 yıl önce ChatGPT ile birlikte doğal dil ile modele ya da artık daha genel bir isim ile yapay zekaya görev atayabilir hale geldik. Başlangıçta bunlar basit görevlerdi. Daha önce verdiğimiz örnekler gibi mesela bir metnin dilini sınıflandırmak ya da farklı bir stil ile yeniden yazdırmak. Devamında ise beklentileri karşılamak adına birçok yeni teknik ortaya çıktı ve yapay zekanın tek seferde tek bir prompt ile yapabildiği görevlerin kapasitesi arttı. Bunu şu grafikte çok net görebiliriz [14]:

2023 yaz aylarında standard bir matematik testinde %30 başarılı olan modeller artık %90 seviyesinde başarılılar. Daha iyi разсъждения yani muhakeme yeteneğine sahipler. Daha karmaşık problemleri çözebiliyorlar.

Peki bu bizim için bir durak noktası mı? Elbette değil. İnsanlık olarak yapay zekadan beklentimiz bugünden daha iyi bir muhakeme yeteneği. Öyle ki bir insanla aynı seviyede. Şu an için eğitilmiş insan ile aynı seviyede çeşitli (genel) ve uzmanlıkta bir yapay zeka mevcut değil. Şu anda uzmanlar bu seviyeyi AGI (Изкуствен общ интелект) yani yapay genel zeka olarak isimlendiriyorlar. Bu seviyede ki bir yapay zeka, kabaca bir insanla aynı seviyede muhakeme yeteneğine sahip olacak ve üretildiği an muhtemelen yapay zeka tarihinde ki yeni kırılma noktası olacak.

Burada muhakeme yeteneğini kabaca bir başarı ölçütü olarak görebiliriz. Ne kadar yüksek muhakeme yeteneği o kadar karmaşık problemlerin, görevlerin çözümü. Biz de Galaksiya olarak, bunlardan biri olan RAG'a (Retrieval Augmented Generation) ve devamında mevcut modellerden daha yüksek muhakeme yeteneğinin elde edilmesi üzerine odaklandık. MindGraph isimli Knowledge Graph (bilgi çizgesi) tabanlı bir yapı geliştirdik ve kayda değer sonuçlar elde ettik.

Bu tanımı açıklamadan önce LLM'lerin hayatımıza girmesiyle iyice anlam kazanmış ve hala aktif olarak üzerine çalışılan konulardan biri olan RAG'ın (Retrieval Augmented Generation) ne olduğundan bahsetmeliyiz. Daha önce de bahsettiğimiz gibi LLM'ler eğitildikleri verileri kullanarak girilen prompt'lara cevap üretebiliyorlar. Örneğin bir LLM'e „Avrupa'nın yüzölçümü nedir?“ gibi bir soru sorarsanız doğru cevabı alırsınız (istisnalar dışında). Peki ya yarın avrupa kıtasının yüzölçümü değişirse? Hatta dinamik bir şekilde her gün değişmeye başlarsa? LLM'de bu bilgiyi nasıl güncelleyeceğiz? Başka bir örnek verelim. LLM'leri hayatımızın artık birçok alanında kullanabiliyoruz. Sorular soruyoruz ve cevap alabiliyoruz. Peki ama sürekli değişen ya da halka kapalı olan (частен) veriler hakkında ki sorularımıza nasıl cevap alacağız? Mesela bir şirket yönetmeliği, finansallar ya da yasalar. Kısaca LLM'lerin private ya da dinamik veriler hakkında doğru cevaplar üretmesini nasıl sağlarız?

İşte bu soruya şu an verilebilecek ilk cevap RAG. RAG'ın temel amacı sorulacak olan soruya uygun cevabı içeren veriyi soruyla birlikte prompt içerisinde vermek. Böylece ilgili veriyle modeli yeniden eğitmeden LLM veri ile ilgili soulara cevap verebilir hale geliyor(En azından teoride). Ve evet bu yaklaşımın bazı zayıf noktaları var. Bunlardan и önemlisi контекстни ограничения на прозореца. Контекстният прозорец kabaca bir LLM'in tek seferde girdi ve çıktı olarak işleyebileceği toplam token (bknz: Tokenization ) sayısı. Bizim için önemli olan kısım ise özellikle girdi yani input sınırı. Eski derin öğrenme modellerini düşünün. Bir örneklemin boyutu her zaman sabit idi. Örneğin bir CNN modelinde kullanılan bir resmin boyutu her zaman sabit olmak zorunda idi. Bu bugün de geçerli ve modelden modele göre değişiyor. Ако GPT моделите имат максимум 128 000 токена. 75 kelimenin kabaca 100 token yaptığını düşünürsek bu da kabaca 250 sayfalık bir kitap yapar. Yani bizim private ya da dinamik verimiz bundan daha büyük ise modele tek seferde veremeyiz. [15]

Diğer bir problem ise tüm veriyi modele verebildiğimiz durumlarda dahi her zaman doğru cevabı alamayabiliriz. Özellikle veriler düzensiz yani saf metinlerden oluşuyor ve sorduğumuz soru yüksek muhakeme yeteneği gerektiriyor ise. Bu durumu daha iyi ifade edebilmek için bir metafor kullanalım. Farz edelim ki bir insan uzmana 250 sayfalık bir kitap verip kitapta geçen isimleri alfabetik sırayla söylemesini isteyelim. Uzmanın tamamlaması gereken adımlar kabaca şu şekilde olurdu:

1. Kitapta geçen tüm isimleri atlamadan tek tek bir yere not al.
2. Daha sonra not alınan tüm isimleri alfabetik olarak sırala.

Görüldüğü üzere bu sorunun çözümü tek bir adımdan oluşmuyor en azından makul bir çözüm için en az iki adıma dolayısıyla bu adımları oluşturmak için belli bir seviyede muhakeme yeteneğine ihtiyacı var. 

Peki bu problemlerin üstesinden nasıl geleceğiz?

Birinci problemi çözmenin tek yolu veriyi bir şekilde контекстен прозорец içine sığdırmaktan geçiyor. Yani veriyi bir şekilde kısaltmamız ya da filtrelememiz lazım ve bunu yaparken mümkünse sorunun cevabını içeren kısma zarar vermememiz lazım. Bu noktada sıklıkla tercih edilen yollardan biri vektörleri kullanmak [15]:

1. Öncelikle metin chunk (küçük metin parçaları) bölünür.
2. Ardından parçalar önceden eğitilmiş bir вграждане на модели yardımıyla vektörlere dönüştürülür.
3. Daha sonra bu vektorler bir veritabanında saklanır.
4. Kullanıcı soru sorduğu zaman ilgili soruda vektöre dönüştürülür.
5. Sorunun vektörüne en yakın (genelde kosinüs benzerliği kullanılıyor) olan k sayıda vektör getirilip soru ile birlikte LLM'e verilir.

Böylece metnin sorulan soruyla en alakalı parçaları filtrelenmiş ve context window'a sığmış olur. Vektör çözümü genel basit ve bu alanda sıklıkla kullanılan bir çözüm.

İkinci problem ise daha zor. Çünkü sorulan soruyu alt sorunlara parçalamayı ve alt çözüm adımları oluşturmayı gerektiriyor. Farkettiyseniz bu problem aslında daha önce de belirttiğimiz ve alanın üzerine yöneldiği yüksek muhakeme problemi ile aynı problem. Kabaca LLM'lerden nasıl daha yüksek muhakeme yeteneği elde edebiliriz? 

Doğal olarak bu alan üzerine çalışan neredeyse herkes bu problem üzerine eğilmiş durumda. Bunlara thinking modelleri ya da özel skorlama ajanları içeren çok ajanlı yapıları örnek verebiliriz. Biz ise ise hem birinci hem de ikinci problemi çözebilmek için MindGraph ismini verdiğimiz farklı yaklaşım kullandık.

MindGraph'ın temelini oluşturan bilgi çizgesi, yapısal olarak veriyi node ve edge yani düğüm ve kenarlar olarak tutmakta. İki düğüm arasında bir kenar olması demek iki düğümün bir şekilde birbirleriyle ilişkili olduğu anlamına geliyor. Bu açıdan beyne ve nöronların yapısına benzetebiliriz [17].

Peki biz MindGraph има ли проблем с вас? Öncelikle birinci problemden başlayalım. Birinci problemde temel amacımız büyük miktarda veri için ham metin verisinin soru ile alakalı olan kısımlarını alıp geri kalanlarını filtrelemek idi. Burada ne kadar iyi bir filtreleme yaparsak o kadar iyi bir cevap alabildiğimizden ve bu problem için genel olarak vektör tabanlı çözümler kullanıldığından daha önce bahsetmiştik. Lakin vektor tabanlı yaklaşımlarında kendine has bazı alt sorunları mevcut.

İçerik filtreleme için sıklıkla tercih edilen vektör tabanlı çözümlerde gördüğümüz ilk sorun bir chunk'ın, sorulan soruyla ne kadar ilgili olup olmadığına dair ölçülebilir bir metriğimizin olmaması. Bu nedenle filtreleme için sabit bir sayı kullanıyoruz ve sıralanan chunk'lar arasından sadece bu sabit sayı kadar chunk seçmek durumunda kalıyoruz (Buna top k selection deniyor). Kullanılan sabit sayı bu çözümde bir hiper parameter olmuş oluyor ve ne olacağı verinin türüne, içeriğe ve konuya göre değişiklik gösterebiliyor.

İkinci sorun ise metni chunk'lara parçalamanın temelinde yatıyor. Her bir vektörün içerdiği öznitelikler sadece kesilen chunk'u temsil ediyor ve yine bu kesilen chunk'ların boyutu bir hiper parameter olarak belirleniyor mesela 800 символа. Ama ya sorulan soruya cevap vermek için gereken minimum alan en az 2000 karakterden oluşuyorsa ne olacak? Hem sorduğumuz soruyu parçalanan chunklar ile eşleştiremiyoruz hemde ilgili alanı neredeyse tam ortadan ikiye böldüğümüz için ciddi miktarda informasyon kaybediyoruz. Bir çözüm olarak daha yüksek bir sabit sayı kullanıp chunk'ları büyütebiliriz. Ama bu da aynı miktarda öznitelikle daha çok informasyonu ifade etmeyi zorunlu kılıyor. Dahası tam ters bir etki yaparak cevabı çok küçük bir alan (mesela 200 знака) bir bölgeyi bulmamızı çok daha zor hale getiriyor.

İşte bu nedenle MindGraph metodun da vektor tabanlı yaklaşımın yerine KG tabanlı bir yaklaşım tercih ettik. Bunun için önce veriyi bir bilgi çizgesine oturtuyoruz. Böylece unstructured yani düzensiz ve ham metin verisini структуриран yani düzenli bir hale getiriyoruz. Daha sonra ise graph engine dilinde SQL benzeri sorgular yazarak veriyi filtreliyoruz [18].

Örneğin yukarıda bulunan KG'a bakalım. Kullanıcı Iron Man 'in tüm yapımcılarını sırala gibi bir soru sormuş olsun. Bu soruyu cevaplamak için yapmamız gereken çok basit bir Cypher kodu ile Iron Man düğümüne ait tüm komşuları getirmek ve soru ile birlikte LLM'e vermek.

Bu sayede sorulan soruyla ilgili gereken tüm bilgileri, parçalamadan, структуриран yani düzgün ve öz bir biçimde LLM'e verebilmiş oluyoruz. Filtrelemeyi ise sorulan soruda geçen özneye göre çok rahat bir şekilde yapabildik.

İkinci olarak ifade ettiğimiz ve çözümü için muhakeme yeteneğine ihtiyaç duyduğumuz problem ise MindGraph ile getirdiğimiz yaklaşımı şöyle ifade edebiliriz [19].

Yukarıdaki bilgi çizgesini incelediğimizde kişileri, arkadaşlarını ve çalıştıkları şirketleri içeren basit bir yapı görüyoruz. Farz edelim ki kullanıcı Jennifer'in tüm arkadaşlarını ve çalıştıkları firmaları sırala lutfen. şeklinde bir soru sormuş olsun. Şayet bu soruyu eğer vektör benzerlik yöntemi ile cevaplamak isteseydik, sorulan soruyu vektöre dönüştürüp ardından tüm chunk vektörleri ile benzerliğine bakmamız gerekecekti. Ve böylece kalitesiz bir cevap almış olacaktık. Ама неден?

Bunun ilk nedeni metinde Jennifer'in X ile arkadaş olduğu bilgisinin bulunduğu kısım ile X'in Y şirketi için çalıştığı bilgisinin bulunduğu kısmın muhtemelen çok farklı yerlerde geçiyor olması. Mesela farklı iki dokümanın çok farklı sayfalarında. Bunun ikinci nedeni ise sorunun iki adımdan oluşuyor olması:

Jennifer'in arkadaşlarını бул.

Bulunan arkadaşların çalıştıkları şirketleri бул.

yani tesadüfen eksiksiz ve öz miktarda chunk ve informasyonu filtreleyip LLM'e verdiğimiz farz etsek bile LLM'e ham veriyi verip veriler arasında ilişki kurmasını yani muhakeme yeteneği göstermesi bekliyoruz. Hem de hiçbir yol göstermeden.

Şimdi ise MindGraph kullandığımız durumda ise tek yapmamız gereken:

• Дженифъраз,
• IS_FRIENDS_WITH юзеринден аркадашларини
• РАБОТИ_ЗА üzerinden çalıştıkları şirketleri

getiren basit bir Cypher заявка yazmak. Daha sonra dönen bilgiyi soru ile LLM'e vermek. Bu sayede LLM'i az ve öz miktarda bilgi ile beslemiş ve gereksiz bilgiden arındırmış oluyoruz. Daha önemlisi ise bilgilerde geçen nesne, özne ve kavramları yani kısaca entity'leri node ve edge yapısında birbirlerine bağlı şekilde verdiğimiz için muhtemel muhakeme yollarını LLM'e işaret etmiş oluyoruz.

Sonuç olarak, MindGraph yaklaşımının potansiyelini değerlendirdiğimiz testler ve ön çalışmalar oldukça heyecan verici sonuçlar ortaya koydu. 

MindGraph'ı klasik RAG yöntemleriyle karşılaştırdığımızda, özellikle maliyet avantajları ve muhakeme yeteneğindeki çarpıcı artışı net bir şekilde görüyoruz. Buna örnek olarak daha önce bir müşterimizde, RAG yerine doğrudan fina настройка yöntemini tercih ettik ve tamamen müşteriye özel, oldukça özelleşmiş bir model geliştirdik. Bu süreç kabaca 9000 долара преди това. MindGraph yöntemini kullandığımızda ise çok daha düşük maliyetlerle, aynı hatta daha yüksek muhakeme kabiliyetine sahip sonuçlar elde edebildiğimizi gördük.

MindGraph'ın avantajlarını daha iyi ifade etmek için somut örnekler üzerinden ilerleyelim. Diyelim ki bir gıda şirketinde üretimden sorumlu bir yöneticisiniz. Üretim hattınızda kritik bir ekipman olan paketleme makinesi durdu ve hızlıca karar vermeniz gerekiyor. „Paketleme makinesi durursa, önümüzdeki ay sipariş teslimatlarımız, stoklarımız ve lojistik nasıl etkilenir?“ gibi bir soruya geleneksel vektör RAG yöntemleriyle doğru cevap almak oldukça zor olacaktır. Çünkü bu tarz sorular çok sayıda verinin analiz edilmesini ve karmaşık ilişkilerin değerlendirilmesini gerektiriyor. Oysa MindGraph sayesinde, üretim hattı, stok ve teslimat gibi farklı kaynaklardan elde edilen verileri grafik tabanlı bir yapıya oturtarak tek seferde net bir cevap alabiliyoruz.

Bir başka örnekte ise daha stratejik bir soruya odaklanalım. Erdem, Galaksiya'nın büyük ortağıdır. Galaksiya ise Deepin'in, Deepin de Twinize'ın büyük ortağı konumundadır. Şimdi Erdem, stratejik bir hamle öncesinde şu soruların cevaplarını arıyor olabilir:

• „Deepin şirketindeki hisse oranımız %20 azalırsa, Twinize üzerindeki doğrudan ve dolaylı kontrolümüz nasıl etkilenir?“
• „Galaksiya olarak Twinize'ın büyümesinden elde edeceğimiz toplam değer artışı, Deepin'deki olası bir küçülmenin yaratacağı zararı telafi eder mi?“

Bu tarz çok katmanlı ve ilişkisel soruları geleneksel yöntemlerle ya da basit RAG yaklaşımlarıyla çözmek neredeyse imkansızdır çünkü bu senaryolar yüksek seviyede muhakeme gerektirir. MindGraph ise bu tip karmaşık ilişkileri doğrudan ve verimli şekilde çözebilen, akıllı sorgularla çalışır. Böylece herhangi bir uzman müdahalesine veya yeni bir eğitim sürecine gerek kalmadan, bu soruların yanıtlarını net olarak alabilmekteyiz.

MindGraph'ın diğer bir önemli avantajı ise güncelleme kolaylığı. Fine-tuning modeller her senaryo değiştiğinde yeniden eğitimi gerektirirken, MindGraph'ın esnek yapısı sayesinde bilgi çizgesini güncelleyerek sürekli ve gerçek zamanlı adaptasyon sağlanabiliyor. Bu sayede hem maliyetleri düşürüyor, hem de operasyonel süreçleri basitleştiriyoruz.

Galaksiya olarak, MindGraph metodunu geliştirmeyi, bilgi çizgesi tabanlı yaklaşımları yüksek muhakeme yeteneği gerektiren tüm alanlarda uygulamayı ve bu yöntemlerle yapay zeka modellerinin kabiliyetlerini daha da ileri taşımayı сюрдюрмектейиз. Bir sonraki adımda sizlerle daha detaylı бенчмарк sonuçları paylaşıyor olacağız. O zamana kadar

Запази спокойствие ...

Бехчет ШЕНТУРК, инженер по машинно обучение

[ 1]: viso.ai. 2024. „AlexNet: Революционна архитектура за дълбоко обучение“. Последен достъп на 5 май. https://viso.ai/deep-learning/alexnet/.

[2]: CNBC. 2025. „Nvidia отново изпреварва Apple, за да стане най-ценната компания в света.“ Последен достъп на 5 май. https://www.cnbc.com/2025/01/21/nvidia-passes-apple-again-to-become-worlds-most-valuable-company-.html.

[3]: Невронни мрежи и дълбоко обучение. 2019. „Защо дълбоките невронни мрежи са трудни за обучение?“. Последен достъп на 5 май. http://neuralnetworksanddeeplearning.com/chap5.html.

[4]: Vaswani, Ashish, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser и Illia Polosukhin. 2017. „Вниманието е всичко, от което се нуждаете.“ arXiv (Университет Корнел), януари. https://doi.org/10.48550/arxiv.1706.03762.

[5]: kaggle. 2020. „Извличане на настроения от туитове“. Последен достъп на 5 май. https://www.kaggle.com/competitions/tweet-sentiment-extraction/overview.

[6]: Forbes. 2025. „ChatGPT достигна 1 милиард потребители? „Удвоен брой само за седмици“, казва изпълнителният директор на OpenAI.“ Последен достъп на 5 май. https://www.forbes.com/sites/martineparis/2025/04/12/chatgpt-hits-1-billion-users-openai-ceo-says-doubled-in-weeks/.

[7]: Technology Magazine. 2024. „Бумът на поколението AI кара Nvidia да изпревари Microsoft.“ Последен достъп на 5 май. https://technologymagazine.com/digital-transformation/gen-ai-boom-causes-nvidia-value-to-overtake-microsoft.

[8]: EPOCH AI. 2025. „Забележителни модели на ИИ“. Последен достъп на 5 май. https://epoch.ai/data/notable-ai-models.

[9]: SEC. 2024. „NVIDIA CORPORATION“. Последен достъп на 5 май. https://www.sec.gov/Archives/edgar/data/1045810/000104581024000029/nvda-20240128.htm.

[10]: Ройтерс. 2025. „DeepSeek дава шанс на европейските технологични фирми да наваксат в световната надпревара за изкуствен интелект“. Последен достъп на 5 май. https://www.reuters.com/technology/artificial-intelligence/deepseek-gives-europes-tech-firms-chance-catch-up-global-ai-race-2025-02-03/.

[11]: The Guardian. 2025. „Технологичните милиардери загубиха почти 100 милиарда долара при разпродажба на фондовия пазар, предизвикана от DeepSeek.“ Последен достъп на 5 май. https://www.theguardian.com/technology/2025/jan/28/deepseek-selloff.

[12]: github. 2025. „FlashMLA.“ Последен достъп на 5 май. https://github.com/deepseek-ai/FlashMLA.

[13]: ollama. 2025. „deepseek-r1“. Последен достъп на 5 май. https://ollama.com/library/deepseek-r1:671b.

[14]: EPOCH AI. 2025. „Американските модели в момента превъзхождат моделите извън САЩ.“ Последен достъп на 5 май. https://epoch.ai/data-insights/us-vs-non-us-performance.

[15]: openai. 2025. „Какво представляват токените и как да ги броим?“ Последен достъп на 5 май. https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them.

[16]: E2E Cloud. 2025. „Внедряване на усъвършенствани RAG техники с Elasticsearch Vector DB.“ Последен достъп на 5 май. https://www.e2enetworks.com/blog/implementing-advanced-rag-techniques-with-elasticsearch-vector-db.

[17]: Xiao, Mingqing, Yixin Zhu, Di He и Zhouchen Lin. 2024. „Невронни мрежи с времеви импулси и синаптично забавяне за графово разсъждение.“ arXiv (Университет Корнел), май. https://doi.org/10.48550/arxiv.2405.16851.

[18]: Ли, Джуни, Тиани Танг, Уейн Син Джао, Жиченг Уей, Никълъс Джинг Юан и Джи-Ронг Уен. 2021. „Генериране на текст от граф на знания с предварително обучени езикови модели с няколко стъпки.“ arXiv (Университет Корнел), януари. https://doi.org/10.48550/arxiv.2106.01623.

[19]: Analytics Yogi. 2022. „Nvidia отново изпреварва Apple, за да стане най-ценната компания в света.“ Последен достъп на 5 май. https://vitalflux.com/nosql-data-models-concepts-examples/.