MindGraph: Daha Akıllı, Daha Ucuz, Daha Güçlü

Sadece bir yazıda tüm yapay zeka çalışmalarını anlatmak takdir edersiniz ki mümkün değil. Yine de olabildiğince geçmişe gidip bugüne kadar kat ettiğimiz yolu ifade etmeye çalışacağız.

İlk başlangıç ​​noktamız bundan kabaca 13 lat później ImageNet isimli yarışmada adını duyuran AlexNet modele olacak. Basit bir resim sınıflandırma modele żółci olsa AlexNet'in 2012 yılında bize gösterdiği şey GPU (Graphics Processing Unit) yani ekran kartlarının, derin öğrenme modellerinin eğitiminde kullanılabileceği oldu:

13 lat sonra bugün geldiğimiz noktada dünyanın önde gelen ekran kartı üreticisi NVIDIA dünyanın en değerli şirketi oldu. [2] Devamındaki süreçte ekran kartlarının kabiliyetleri ve alan ilgi arttıkça daha büyük yani daha çok parametry ve daha çok gizli katman içeren modeller hayatımıza girmeye başladı.

Böylece daha kaliteli görüntü, sinyal, video modelleri görmeye başladık. Büyük modelleri orijinalinde yer almayan görevler için az miktarda veri ve işlem gücüyle eğitmeye dayalı dostrojenie, transfer uczenia się gibi kavramlar hayatımıza girdi. Lakin doğal dil için büyük bir model üretmek hala mümkün değildi. 

Problemem jest yolculuğumuzun bir sonraki önemli adımı olan Uwaga to wszystko, czego potrzebujesz başlıklı makale çözülmüş oldu. 8 lat później Google'ın yayınladığı makale bizi Transformator isimli kavram ile tanıştırdı. Artık „büyük” diye ifade edebileceğimiz doğal dil modelleri yani LLM'leri eğitebiliyorduk. [4]

2022'nin sonlarında ise (yani bundan sadece 3 lata później) ise belki de en önemli adımlardan biri OpenAI tarafından atıldı ve o güne kadar eğitilen hiçbir modelowanie gösteremediği bir rozumowanie (muhakeme) kabiliyetine sahip olduğu przejdź do starej platformy ChatGPT.

Her ne kadar modelin görevinin sabit olduğu ve eğitim öncesinde belirlendiği klasik makine öğrenmesi ve derin öğrenme modellerinin aksine modelin görevinin doğal dil ile değiştirilebildiği kilka strzałów / zero-shot modellerinin ilki olmasa da, Platforma ChatGPT nie jest obsługiwana przez GPT-3, można dostroić edilen modele GPT, tam anlamıyla Przeformułowanie zadań ile tanıştırdı. Tamam ama bu neden bu kadar önemli? 

ChatGPT'den sadece birkaç yıl önce bir problemi çözmek için eğitilen jej model sadece ilgili model üzerinde çalışabiliyordu. Mesela 2020 yılında Kaggle üzerindeki tweet analiza nastrojów yarışmasının temel amacı olan, tweet'lerdeki duyguyu ifade eden cümlecikleri ayıran modellerin tamamı, sadece bu sorunu çözmek üzerine eğitilmişlerdi. Bu modellerden birini alıp başka bir doğal dil görevinde kullanamazdınız. Örneğin tweet'in hangi dilde yazıldığını modele soramazdınız. Görevi değiştirmenin tek yolu yeniden eğitmekti. Yani konuyla ilgili en az bir uzmana ihtiyaç vardı. ChatGPT ile bu durum ortadan kalktı. Artık bir doğal dil görevini yapmak için bir model eğitmeye ihtiyacınız yoktu. ChatGPT modelin görevini doğal dil ile (kabaca Prompt ile) yeniden değiştirebiliyordunuz. İster tweet'in dilini sınıflandırın, ister duygu durumunu. Artık bir uzmana ihtiyaç yoktu. [5]

Evet artık bir uzmana ihtiyacımız yok. Bilgisayar bilimci olmak zorunda değilsiniz. Kodlama bilmeye de gerek yok. Dostroić? Przenieść naukę? Eğitim? Artık hiçbirine gerek yok. Yazıp konuşabiliyorsanız bu yeterli. Öyle ki OpenAI 1 milyar kullanıcıya ulaşmış durumda yani tum dünyanın 8'de 1'ine. Bu da demek oluyor ki LLM'ler artık insan hayatının bir parçası haline geldi. [6]

LLM'lerin „zeka”sı artık kelime tamamlama becerisinden çok çok-adımlı akıl yürütme kabiliyetiyle değerlendiriliyor. Araştırmalar, cynkir-düşünce sistemlerinin küçük göstergelerle bile karmaşık problemi çözme oranını dramatik biçimde artırdığını ortaya koyuyor. Bu yüzden OpenAI, Eylül 2024'te tanıttığı o1 serisini „daha uzun düşünüp sonra cevap veren” podobny do modelarza olarak konumlandırdı. Devasa parametre sayıları, exaFLOPS ölçekli eğitim kümeleri ve milyarlarca token, 2020-2024 arası inovasyonun mottosu oldu. Talebin tetiklediği bu dönem, Nvidia'nın piyasa değerini dokuz ayda 1 bilion $'dan 3 trilyon $'a taşıdı; öyle ki analityk şirketi „AI çağının benzyna devi” diye tanımlamaya başladı. [7] Durumu daha iyi kavrayabilmek için şu grafikleri inceleyelim:

Epoch.ai'den aldığımız ilk grafikte özellikle derin öğrenme tekniğinin popüler olması ile birlikte model eğitmek için gereken işlem gücünün (FLOP cinsinden) yılda ortalama 4.6 kat arttığını gorebiliyoruz. Kısaca jej 5 lat kat daha fazla işlem gücüne ihtiyaç duyuyoruz. [8]

SEC (Komisja Papierów Wartościowych i Giełd)'den aldığımız bu grafikte ise, 2019–2024 döneminde NVIDIA hissesinin birikimli toplam getirisinin hem S&P 500 hem de Nasdaq 100 endekslerini ezici biçimde geride bıraktığı görünüyor. Yani, syn beş yılda NVIDIA'ya yatırım yapanlar, geniş piyasa endekslerine yatırım yapanlara kıyasla katbekat daha yüksek bir getiri elde etmiş durumda. [9] 

İki grafikte açıkça gösteriyor ki, yapay zeka uygulamaları hızla yaygınlaştıkça, bu teknolojiyi mümkün kılan donanım ve altyapıya olan talep de katlanarak artıyor. Bir yandan modellerin eğitimi için ihtiyaç duyulan işlem gücü sürekli yükselirken, diğer yandan bu gücü sağlayan NVIDIA gibi çip üreticilerinin değeri de benzer bir hızla artıyor.

Fakat bu trendi bozan bazı özel gelişmelerden de bahsetmemiz gerek. Örneğin 2025'in başında w merkezli DeepSeek, açık kaynaklı Reasoner-R1 ailesini i dakikası 0,55 $/M token gibi oldukça rekabetçi fiyatlandırma modelleriyle piyasaya girerek, sektördeki dengeleri değiştirme potansiyeli taşıdığını gösterdi. Normalne kullanımda OpenAI GPT-4o modelein fiyatı 1 milion wyjścia (çıkış) token'i için 10 $ iken, DeepSeek R1 aynı işi 2,19 $'a yapıp; gece indirimiyle bu rakam 0,55 $'a kadar düşürdü. Bu durum Avrupa'daki girişimlerin çoğunun birkaç dakikada OpenAI'den DeepSeek'e göç etmesine neden oldu çünkü DeepSeek ile maliyetleri 40 kata kadar düşürmeyi başardılar. [10]

DeepSeek'in rakipleri ile arasındaki fiyat uçurumunu gösteren bir infografik.

Ancak bu başarının ardında ki tek faktör sadece uygun fiyatlandırma değildi. DeepSeek'in yayınladığı rapor, 671 milar parametreye sahip R1 modellerinin nasil üst düzey muhakeme yeteneği sağladığını detaylı biçimde ortaya koyuyordu. R1'in, lub güne kadar alanın en güçlü kapalı modele Olan OpenAI GPT-4o ile rekabet edebilen sonuçlar sunması, sektörde „daha fazla işlem gücü eşittir daha iyi muhakeme” anlayışını ciddi şekilde sarstı. Guardian'ın „DeepSeek Paniği” obsługuje vurguladığı gibi, R1'in kamuya açılması Nvidia hisselerinin ilk işlem gününde %18 değer kaybederek yaklaşık 600 milionów dolarów tarihi bir düşüş yaşamasına neden oldu. [11]

Detaylara inip ve DeepSeek'in paylaştığı makaleyi göz gezdirdiğimiz zaman DeepSeek'in maliyetleri kısmak için ciddi anlamda optimizasyon yaptığını görebiliyoruz. Örneğin sadece Hooper mimarisine sahip kartlarda çalışan FlashMLA ki burada DeepSeek'in elinde iyi miktarda Hopper mimarisine sahip H800 (NVIDIA tarafından çin pazarına sunulan H100 muadili ekran kartı) bulunduğuna ve R1'in bu kartlarda eğitildiğine dikkat çekelim. Ya da MoE (mieszanka ekspertów) olarak adlandırılan ve modelin sahip olduğu toplam 671 milyar parametre içinden her işlemde yalnızca küçük bir bölümü (37 milar parametre gibi) aktif olarak kullanılarak hesaplama maliyeti önemli ölçüde azaltan yöntemler örnek verilebilir. [12]

Son olarak DeepSeek-R1 'in etkileyici performansını küçük ve ekonomik modellere aktarmak için kullanılan distilasyon (destylacja) yöntemi de değinmeden geçmeyelim. Eğitim ve çalıştırma maliyetlerinde kayda değer optimizasyonlar yapılmış olsa da R1 hala 671 milar parametre içeriyor yani sadece çalıştırmak için żółci > 400GB VRAM (4-bitowa kwantyzacja'a rağmen) lazım (RTX 4090 sadece 24 GB VRAM içerdiğine dikkat çekelim). Bu durum bizati farkında olan DeepSeek kaliteli ama daha küçük modeller eğitmek amacıyla, hali hazırda güçlü ve yüksek kapasiteli R1 modelnin ürettiği yine yüksek kaliteli yaklaşık 800 bin örneklik sanal veri kümesini kullanarak daha küçük modellerin eğitimi için kullanmış. Bu şekilde 70, 32, 14, 8, 7 ve 1,5 milyarlık destile edilmiş R1 modellerini paylaşarak DeepSeek herkese imkanı yettiği ölçüde kaliteli bir R1 myślące modele sağlamış oldu. [13]

DeepSeek'in szczegółowe informacje o sonra geldiğimiz noktayı kabaca özetlersek 3 lata później ChatGPT ile birlikte doğal dile modele ya da artık daha genel bir isim ile yapay zekaya görev atayabilir hale geldik. Başlangıçta bunlar basit görevlerdi. Daha önce verdiğimiz örnekler gibi mesela bir metnin dilini sınıflandırmak ya da farklı bir stil ile yeniden yazdırmak. Devamında ise beklentileri karşılamak adına birçok yeni teknik ortaya çıktı ve yapay zekanın tek seferde tek bir zachęta ile yapabildiği görevlerin kapasitesi arttı. Bunu şu grafikte çok net görebiliriz [14]:

2023 yaz aylarında standart bir matematik testinde %30 başarılı olan modeller artık %90 seviyesinde başarılılar. Daha iyi rozumowanie Yani muhakeme yeteneğine sahipler. Daha karmaşık problemleri çözebiliyorlar.

Peki bu bizim için bir durak noktası mı? Elbette değil. İnsanlık olarak yapay zekadan beklentimiz bugünden daha iyi bir muhakeme yeteneği. Öyle ki bir insanla aynı seviyede. Şu an için eğitilmiş insan ile aynı seviyede çeşitli (genel) ve uzmanlıkta bir yapay zeka mevcut değil. Şu anda uzmanlar bu seviyeyi AGI (sztuczna inteligencja ogólna) yani yapay genel zeka olarak isimlendiriyorlar. Bu seviyede ki bir yapay zeka, kabaca bir insanla aynı seviyede muhakeme yeteneğine sahip olacak ve üretildiği an muhtemelen yapay zeka tarihinde ki yeni kırılma noktası olacak.

Burada muhakeme yeteneğini kabaca bir başarı ölçütü olarak görebiliriz. Ne kadar yüksek muhakeme yeteneği o kadar karmaşık problemlerin, görevlerin çözümü. Biz de Galaksiya olarak, bunlardan biri olan RAG'a (Retrieval Augmented Generation) i devamında mevcut modellerden daha yüksek muhakeme yeteneğinin elde edilmesi üzerine odaklandık. MindGraph isimli Knowledge Graph (bilgi çizgesi) tabanlı bir yapı geliştirdik ve kayda değer sonuçlar elde ettik.

Ale tanımı açıklamadan önce LLM'lerin hayatımıza girmesiyle iyice anlam kazanmış ve hala aktif olarak üzerine çalışılan konulardan biri olan RAG'ın (Retrieval Augmented Generation) ne olduğundan bahsetmeliyiz. Daha önce de bahsettiğimiz gibi LLM'ler eğitildikleri verileri kullanarak girilen Prompt'lara cevap üretebiliyorlar. Örneğin bir LLM'e „Avrupa'nın yüzölçümü nedir?” gibi bir soru sorarsanız doğru cevabı alırsınız (istisnalar dışında). Peki ya yarın avrupa kıtasının yüzölçümü değişirse? Hatta dinamik bir şekilde her gün değişmeye başlarsa? LLM'de bu bilgiyi nasıl güncelleyeceğiz? Başka bir örnek verelim. LLM'leri hayatımızın artık birçok alanında kullanabiliyoruz. Sorular soruyoruz ve cevap alabiliyoruz. Peki ama sürekli değişen ya da halka kapalı olan (prywatny) veriler hakkında ki sorularımıza nasıl cevap alacağız? Mesela bir şirket yönetmeliği, finansallar ya da yasalar. Kısaca LLM'lerin private ya da dinamik veriler hakkında doğru cevaplar üretmesini nasıl sağlarız?

İşte bu soruya şu an verilebilecek ilk cevap RAG. RAG'ın temel amacı sorulacak olan soruya uygun cevabı içeren veriyi soruyla birlikte zachęta içerisinde vermek. Böylece ilgili veriyle modele yeniden eğitmeden LLM veri ile ilgili sorulara cevap verebilir hale geliyor(En azından teoride). Ve evet bu yaklaşımın bazı zayıf noktaları var. Bunlardan en önemlisi limit okna kontekstowego. Okno kontekstowe kabaca bir LLM'in tek seferde girdi ve çıktı olarak işleyebileceği token toplam (bknz: Tokenizacja ) sayısı. Bizim için önemli olan kısım ise özellikle girdi yani input sınırı. Eski derin öğrenme modellerini düşünün. Bir örneklemin boyutu jej zaman sabit idi. Örneğin bir CNN modelinde kullanılan bir resmin boyutu jej zaman sabit olmak zorunda idi. Bu bugün de geçerli ve modelden modele göre değişiyor. Możesz zdobyć 128 000 tokenów Kadar. 75 kelimenin kabaca 100 tokenów yaptığını düşünürsek bu da kabaca 250 sayfalık bir kitap yapar. Yani bizim private ya da dinamik verimiz bundan daha büyük ise modele tek seferde veremeyiz. [15]

Diğer bir problem ise tüm veriyi modele verebildiğimiz durumlarda dahi her zaman doğru cevabı alamayabiliriz. Özellikle veriler düzensiz yani saf metinlerden oluşuyor ve sorduğumuz soru yüksek muhakeme yeteneği gerektiriyor ise. Bu durumu daha iyi ifade edebilmek için bir metafor kullanalım. Farz edelim ki bir insan uzmana 250 sayfalık bir kitap verip kitapta geçen isimleri alfabetik sırayla söylemesini isteyelim. Uzmanın tamamlaması gereken adımlar kabaca şu şekilde olurdu:

1. Kitapta geçen tüm isimleri atlamadan tek tek bir yere not al.
2. Daha sonra not alınan tüm isimleri alfabetik olarak sırala.

Görüldüğü üzere bu sorunun çözümü tek bir adımdan oluşmuyor en azından makul bir çözüm için en az iki adıma dolayısıyla bu adımları oluşturmak için belli bir seviyede muhakeme yeteneğine ihtiyacı var. 

Peki bu problemlerin üstesinden nasıl geleceğiz?

Birinci problemi çözmenin tek yolu veriyi bir şekilde okno kontekstowe içine sığdırmaktan geçiyor. Yani veriyi bir şekilde kısaltmamız ya da filtrelememiz lazım ve bunu yaparken mümkünse sorunun cevabını içeren kısma zarar vermememiz lazım. Bu noktada sıklıkla tercih edilen yollardan biri vektörleri kullanmak [15]:

1. Öncelikle metin kawałek (küçük metin parçaları) bölünür.
2. Ardından parçalar önceden eğitilmiş bir osadzanie modeliyardımıyla vektörlere dönüştürülür.
3. Daha sonra bu vektörler bir veritabanında saklanır.
4. Kullanıcı soru sorduğu zaman ilgili soruda vektöre dönüştürülür.
5. Sorunun vektörüne en yakın (genelde kosinüs benzerliği kullanılıyor) olan k sayıda vektör getirilip soru ile birlikte LLM'e verilir.

Böylece metnin sorulan soruyla en alakalı parçaları filtrelenmiş ve kontekstowe okno'a sığmış olur. Vektör çözümü genel basit ve bu alanda sıklıkla kullanılan bir çözüm.

Problemem jest Daha Zor. Çünkü sorulan soruyu alt sorunlara parçalamayı ve alt çözüm adımları oluşturmayı gerektiriyor. Farkettiyseniz bu problem aslında daha önce de belirttiğimiz ve alanın üzerine yöneldiği yüksek muhakeme problemi ile aynı problem. Kabaca LLM'lerden nasıl daha yüksek muhakeme yeteneği elde edebiliriz? 

Doğal olarak bu alan üzerine çalışan neredeyse herkes bu problem üzerine eğilmiş durumda. Bunlara think modelleri ya da özel skorlama ajanları içeren çok ajanlı yapıları örnek verebiliriz. Biz ise ise hem birinci hem de ikinci problemi çözebilmek için MindGraph ismini verdiğimiz farklı yaklaşım kullandık.

MindGraph'ın temelini oluşturan bilgi çizgesi, yapısal olarak veriyi węzeł ve krawędzi yani düğüm ve kenarlar olarak tutmakta. İki düğüm arasında bir kenar olması demek iki düğümün bir şekilde birbirleriyle ilişkili olduğu anlamına geliyor. Bu açıdan beyne ve nöronların yapısına benzetebiliriz [17].

Peki biz MindGraph, czy masz problem z naszym yaklaşıyoruz? Öncelikle birinci problemden başlayalım. Birinci problemde temel amacımız büyük miktarda veri için szynka metin verisinin soru ile alakalı olan kısımlarını alıp geri kalanlarını filtrelemek idi. Burada ne kadar iyi bir filtreleme yaparsak o kadar iyi bir cevap alabildiğimizden ve bu problem için genel olarak vektör tabanlı çözümler kullanıldığından daha önce bahsetmiştik. Lakin vektör tabanlı yaklaşımlarında kendine ma bazı alt sorunları mevcut.

İçerik filtreleme için sıklıkla tercih edilen vektör tabanlı çözümlerde gördüğümüz ilk sorun bir chunk'ın, sorulan soruyla ne kadar ilgili olup olmadığına dair ölçülebilir bir metriğimizin olmaması. Bu nedenle filtreleme için sabit bir sayı kullanıyoruz ve sıralanan chunk'lar arasından sadece bu sabit sayı kadar chunk seçmek durumunda kalıyoruz (Buna top k zaprzeczający wyborowi). Kullanılan sabit sayı bu çözümde bir hiper parametry olmuş oluyor ve ne olacağı verinin türüne, içeriğe ve konuya göre değişiklik gösterebiliyor.

İkinci sorun ise metni chunk'lara parçalamanın temelinde yatıyor. Her bir vektörün içerdiği öznitelikler sadece kesilen chunk'u temsil ediyor ve yine bu kesilen chunk'ların boyutu bir hiper parametry olarak belirleniyor mesela 800 karakter. Czy jesteś sorulan soruya cevap vermek için gereken minimum alan en az 2000 karakterden oluşuyorsa ne olacak? Hem sorduğumuz soruyu parçalanan chunklar ile eşleştiremiyoruz hemde ilgili alanı neredeyse tam ortadan ikiye böldüğümüz için ciddi miktarda informasyon kaybediyoruz. Bir çözüm olarak daha yüksek bir sabit sayı kullanıp chunk'ları büyütebiliriz. Ama bu da aynı miktarda öznitelikle daha çok informasyonu ifade etmeyi zorunlu kılıyor. Dahası tam ters bir etki yaparak cevabı çok küçük bir alan (mesela 200 karakter) bir bölgeyi bulmamızı çok daha zor hale getiriyor.

İşte bu nedenle MindGraph metodun da vektör tabanlı yaklaşımın yerine KG tabanlı bir yaklaşım tercih ettik. Bunun için önce veriyi bir bilgi çizgesine oturtuyoruz. Böylece unstructured yani düzensiz ve ham metin verisini strukturyzowany yani düzenli bir hale getiriyoruz. Daha sonra ise silnik graficzny dilinde SQL benzeri soorgular yazarak veriyi filtreliyoruz [18].

Örneğin yukarıda bulunan KG'a bakalım. Kullanıcı Iron Man 'in tum yapımcılarını sırala gibi bir soru sormuş olsun. Bu soruyu cevaplamak için yapmamız gereken çok basit bir Cypher kod ile Iron Man düğümüne ait tum komşuları getirmek ve soru ile birlikte LLM'e vermek.

Bu sayede sorulan soruyla ilgili gereken tüm bilgileri, parçalamadan, ustrukturyzowany yani düzgün ve öz bir biçimde LLM'e verebilmiş oluyoruz. Filtrelemeyi ise sorulan soruda geçen özneye göre çok rahat bir şekilde yapabildik.

İkinci olarak ifade ettiğimiz ve çözümü için muhakeme yeteneğine ihtiyaç duyduğumuz probleme ise MindGraph ile getirdiğimiz yaklaşımı şöyle ifade edebiliriz [19].

Yukarıdaki bilgi çizgesini incelediğimizde kişileri, arkadaşlarını ve çalıştıkları şirketleri içeren basit bir yapı görüyoruz. Farz edelim ki kullanıcı Jennifer'in tüm arkadaşlarını ve çalıştıkları firmaları sırala lütfen. şeklinde bir soru sormuş olsun. Şayet bu soruyu eğer vektör benzerlik yöntemi ile cevaplamak isteseydik, sorulan soruyu vektöre dönüştürüp ardından tüm chunk vektörleri ile benzerliğine bakmamız gerekecekti. Ve böylece kalitesiz bir cevap almış olacaktık. Czy jesteś zainteresowany?

Bunun ilk nedeni metinde Jennifer'in X ile arkadaş olduğu bilgisinin bulunduğu kısım ile X'in Y şirketi için çalıştığı bilgisinin bulunduğu kısmın muhtemelen çok farklı yerlerde geçiyor olmasi. Mesela farklı iki dokümanın çok farklı sayfalarında. Bunun ikinci nedeni ise sorunun iki adımdan oluşuyor olması:

Jennifer'in arkadaşlarını bul.

Bulunan arkadaşların çalıştıkları şirketleri bul.

yani tesadüfen eksiksiz ve öz miktarda fragment ve informasyonu filtreleyip LLM'e verdiğimiz farz etsek bile LLM'e szynka veriyi verip veriler arasında ilişki kurmasını yani muhakeme yeteneği göstermesi bekliyoruz. Hem de hiçbir yol göstermeden.

Şimdi ise MindGraph kullandığımız durumda ise tek yapmamız gereken:

• Jennifer'I,
• JEST_PRZYJACIELEM_Z dalsza praca
• DZIAŁA_DLA üzerinden çalıştıkları şirketleri

getiren basit bir Zapytanie Cyphera Yazmak. Daha sonra dönen bilgiyi soru ile LLM'e vermek. Bu sayede LLM'i az ve öz miktarda bilgi ile beslemiş ve gereksiz bilgiden arındırmış oluyoruz. Daha önemlisi ise bilgilerde geçen nesne, özne ve kavramları yani kısaca istota'leri węzeł ve krawędź yapısında birbirlerine bağlı şekilde verdiğimiz için muhtemel muhakeme yollarını LLM'e işaret etmiş oluyoruz.

Sonuç olarak, MindGraph yaklaşımının potansiyelini değerlendirdiğimiz testler ve ön çalışmalar oldukça heyecan verici sonuçlar ortaya koydu. 

MindGraph'ı klasyczny RAG yöntemleriyle karşılaştırdığımızda, özellikle maliyet avantajları ve muhakeme yeteneğindeki çarpıcı artışı net bir şekilde görüyoruz. Buna örnek olarak daha önce bir müşterimizde, RAG yerine doğrudan dostrajanie yöntemini tercih ettik ve tamamen müşteriye özel, oldukça özelleşmiş bir model geliştirdik. Bu süreç kabaca 9000 spożywany mal oldu. MindGraph yöntemini kullandığımızda ise çok daha düşük maliyetlerle, aynı hatta daha yüksek muhakeme kabiliyetine sahip sonuçlar elde edebildiğimizi gördük.

MindGraph'ın avantajlarını daha iyi ifade etmek için somut örnekler üzerinden ilerleyelim. Diyelim ki bir gıda şirketinde üretimden sorumlu bir yöneticisiniz. Üretim hattınızda kritik bir ekipman olan paketleme makinesi durdu ve hızlıca karar vermeniz gerekiyor. „Paketleme makinesi durursa, önümüzdeki ay sipariş teslimatlarımız, stoklarımız ve lojistik nasıl etkilenir?” gibi bir soruya geleneksel vektör RAG yöntemleriyle doğru cevap almak oldukça zor olacaktır. Çünkü bu tarz sorular çok sayıda verinin analiz edilmesini ve karmaşık ilişkilerin değerlendirilmesini gerektiriyor. Oysa MindGraph sayesinde, üretim hattı, stok ve teslimat gibi farklı kaynaklardan elde edilen verileri grafik tabanlı bir yapıya oturtarak tek seferde net bir cevap alabiliyoruz.

Bir başka örnekte ise daha stratejik bir soruya odaklanalım. Erdem, Galaksiya'nın büyük ortağıdır. Galaksiya ise Deepin'in, Deepin de Twinize'ın büyük ortağı konumundadır. Şimdi Erdem, stratejik bir hamle öncesinde şu soruların cevaplarını arıyor obilir:

• „Deepin şirketindeki hisse oranımız %20 azalırsa, Twinize üzerindeki doğrudan ve dolaylı kontrolümüz nasıl etkilenir?”
• „Galaksiya olarak Twinize'ın büyümesinden elde edeceğimiz toplam değer artışı, Deepin'deki olası bir küçülmenin yaratacağı zararı telafi eder mi?”

Bu tarz çok katmanlı ve ilişkisel soruları geleneksel yöntemlerle ya da basit RAG yaklaşımlarıyla çözmek neredeyse imkansızdır çünkü bu senaryolar yüksek seviyede muhakeme gerektirir. MindGraph ise bu tip karmaşık ilişkileri doğrudan ve verimli şekilde çözebilen, akıllı soorgularla çalışır. Böylece herhangi bir uzman müdahalesine veya yeni bir eğitim sürecine gerek kalmadan, bu soruların yanıtlarını net olarak alabilmekteyiz.

MindGraph'ın diğer bir önemli avantajı ise güncelleme kolaylığı. Dostrajanie modelarza to senaryo değiştiğinde yeniden eğitimi gerektirirken, MindGraph'ın esnek yapısı sayesinde bilgi çizgesini güncelleyerek sürekli ve gerçek zamanlı adaptasyon sağlanabiliyor. Bu sayede hem maliyetleri düşürüyor, hem de operasyonel süreçleri basitleştiriyoruz.

Galaksiya olarak, MindGraph metoda geliştirmeyi, bilgi çizgesi tabanlı yaklaşımları yüksek muhakeme yeteneği gerektiren tüm alanlarda uygulamayı ve bu yöntemlerle yapay zeka modellerinin kabiliyetlerini daha da ileri taşımayı sürdürmekteyiz. Bir sonraki adımda sizlerle daha detaylı benchmark sonuçları paylaşıyor olacağız. O zamana kadar

Zachowaj spokój ...

Behçet ŞENTÜRK, inżynier uczenia maszynowego

[ 1]: viso.ai. 2024. „AlexNet: rewolucyjna architektura głębokiego uczenia”. Ostatni dostęp 5 maja. https://viso.ai/deep-learning/alexnet/.

[2]: CNBC. 2025. „Nvidia ponownie wyprzedziła Apple i stała się najcenniejszą firmą na świecie”. Ostatni dostęp 5 maja. https://www.cnbc.com/2025/01/21/nvidia-passes-apple-again-to-become-worlds-most-valuable-company-.html.

[3]: Sieci neuronowe i głębokie uczenie. 2019. „Dlaczego głębokie sieci neuronowe są trudne do wyszkolenia?” Ostatni dostęp 5 maja. http://neuralnetworksanddeeplearning.com/chap5.html.

[4]: Vaswani, Ashish, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Łukasz Kaiser i Illia Polosukhin. 2017. „Wystarczy uwaga”. arXiv (Uniwersytet Cornell), styczeń. https://doi.org/10.48550/arxiv.1706.03762.

[5]: kaggle. 2020. „Tweet Sentiment Extraction”. Ostatni dostęp 5 maja. https://www.kaggle.com/competitions/tweet-sentiment-extraction/overview.

[6]: Forbes. 2025. „ChatGPT osiąga 1 miliard użytkowników? «Podwoił się w zaledwie kilka tygodni», mówi dyrektor generalny OpenAI”. Ostatni dostęp 5 maja. https://www.forbes.com/sites/martineparis/2025/04/12/chatgpt-hits-1-billion-users-openai-ceo-says-doubled-in-weeks/.

[7]: Technology Magazine. 2024. „Boom generacji AI sprawia, że ​​wartość Nvidii przewyższa wartość Microsoftu”. Ostatni dostęp 5 maja. https://technologymagazine.com/digital-transformation/gen-ai-boom-causes-nvidia-value-to-overtake-microsoft.

[8]: EPOCH AI. 2025. „Znane modele AI”. Ostatni dostęp 5 maja. https://epoch.ai/data/notable-ai-models.

[9]: SEC. 2024. „NVIDIA CORPORATION”. Ostatni dostęp 5 maja. https://www.sec.gov/Archives/edgar/data/1045810/000104581024000029/nvda-20240128.htm.

[10]: Reuters. 2025. „DeepSeek daje europejskim firmom technologicznym szansę na dogonienie w globalnym wyścigu AI” Ostatni dostęp 5 maja. https://www.reuters.com/technology/artificial-intelligence/deepseek-gives-europes-tech-firms-chance-catch-up-global-ai-race-2025-02-03/.

[11]: The Guardian. 2025. „Miliarderzy z branży technologicznej stracili prawie 100 mld dolarów na wyprzedaży akcji wywołanej przez DeepSeek”. Ostatni dostęp 5 maja. https://www.theguardian.com/technology/2025/jan/28/deepseek-selloff.

[12]: github. 2025. „FlashMLA”. Ostatni dostęp 5 maja. https://github.com/deepseek-ai/FlashMLA.

[13]: ollama. 2025. „deepseek-r1”. Ostatni dostęp 5 maja. https://ollama.com/library/deepseek-r1:671b.

[14]: EPOCH AI. 2025. „Modele amerykańskie obecnie przewyższają modele spoza USA”. Ostatni dostęp 5 maja. https://epoch.ai/data-insights/us-vs-non-us-performance.

[15]: openai. 2025. „Czym są tokeny i jak je liczyć?” Ostatni dostęp 5 maja. https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them.

[16]: E2E Cloud. 2025. „Wdrażanie zaawansowanych technik RAG z Elasticsearch Vector DB”. Ostatni dostęp 5 maja. https://www.e2enetworks.com/blog/implementing-advanced-rag-techniques-with-elasticsearch-vector-db.

[17]: Xiao, Mingqing, Yixin Zhu, Di He i Zhouchen Lin. 2024. „Sieci neuronowe z impulsami czasowymi i opóźnieniem synaptycznym do rozumowania grafowego”. arXiv (Cornell University), maj. https://doi.org/10.48550/arxiv.2405.16851.

[18]: Li, Junyi, Tianyi Tang, Wayne Xin Zhao, Zhicheng Wei, Nicholas Jing Yuan i Ji-Rong Wen. 2021. „Generowanie niewielkiej liczby wykresów wiedzy w formie tekstu przy użyciu wstępnie wytrenowanych modeli językowych”. arXiv (Cornell University), styczeń. https://doi.org/10.48550/arxiv.2106.01623.

[19]: Analytics Yogi. 2022. „Nvidia ponownie wyprzedza Apple i staje się najcenniejszą firmą na świecie”. Ostatni dostęp 5 maja. https://vitalflux.com/nosql-data-models-concepts-examples/.