Açık Kaynak Zirvesi Japonya 2025: Mimari Dönüşümü

Yapay zekâ dünyasında "daha büyük modeller" arayışı yerini eleştirel bir sessizliğe bırakırken, sektörün geleceği Open Source Summit Japan 2025'te tek bir cümleyle özetlendi: "Ajan tabanlı yapay zekânın geleceği model ölçeğiyle değil, sistem mimarisiyle tanımlanacaktır." 1

Bu belirleme, odağın yalnızca model eğitiminden bu modelleri destekleyen ve ölçeklendiren altyapıya kaydığının en somut göstergesidir. Tokyo'daki Toranomon Tepeleri'nde düzenlenen zirve, Google, Fujitsu ve Honda gibi devlerin açık kaynak kodunu nasıl "stratejik bir temel" olarak benimsediğini kanıtladı ve bir DevOps mühendisi olarak, yapay zeka ve altyapı dünyalarının kesiştiği noktadaki yeni normları yerinde inceleme fırsatım oldu.
Bu makale, etkinlikte bizzat çektiğim fotoğraflardan, katıldığım teknik oturumlardan ve Linux Vakfı'nın resmi programından derlediğim verilerden yararlanarak, yapay zeka ve altyapı dünyaları arasındaki bağlantıyı analiz etmektedir.

Konferans programında öne çıkan teknik tartışmalar ve yerinde incelediğim sunumlar, modern altyapı yönetimi açısından aşağıdaki ana başlıklar altında toplandı:

A. Sistem Mimarisi ve Donanım Ayrıştırması

• Donanım Ayrıştırması: Fujitsu'nun "Dinamik GPU Sağlama" oturumunda ayrıntılı olarak açıklandığı gibi, geleneksel sunucu yapısının ötesine geçerek, CPU, GPU ve belleği fiziksel kasalardan çıkararak dinamik bir havuzda (Kaynak Havuzu) toplamak mümkün.2 
• Yapay Zeka Fabrikaları: Veri merkezlerinin, statik sunucu çiftlikleri yerine, yapay zeka iş yüklerinin değişken taleplerine yanıt verebilen üretim tesislerine dönüştürülmesi.

B. Ajan Operasyonları

• Otonom Altyapı Yönetimi: Sahnedeki gösterimlerde de gördüğümüz gibi, "hata durumunda duran" Terraform gibi araçların yapısından, hatayı analiz edip çözüm üretebilen "ajan" tabanlı yapılara geçiş gerçekleşti. 
• Sürekli Geri Bildirim Döngüsü: Yapay zekâ modellerinin yalnızca devreye alınmasının değil, aynı zamanda canlı ortamdaki performanslarının da sürekli olarak izlenmesi.5 

C. Veri Yönetimi ve Güvenliği

• Federasyonlu Vektör Erişimi: NTT ve diğer sunum yapanların paylaştığı mimari diyagramlara göre, verileri yerinde, dağıtılmış kaynaklarda işleyen yapılar, verileri merkezi bir veri havuzuna taşımak yerine sonuçları bir araya getiriyor.6 
• Politika-Kod Olarak: OPA (Open Policy Agent) gibi motorlar tarafından sorgulama anında dinamik olarak veri erişim kararlarının alınması. 6 

D. Kritik ve Özel İş Yükleri

• Oyun Sunucusu Orkestrasyonu: Google Açık Kaynak ekibinin Agones sunumunda gösterildiği gibi, Kubernetes üzerinde küresel ölçekte durum bilgisi içeren oyun sunucularının yönetimi.7 
• Uzay Sınıfı Linux: GITAI'nin sunumunda sergilenen, ISS'deki robotik kolların açık kaynak yazılımlarla yönetimi.8 

A. Sistem Mimarisi ve Donanım Ayrıştırması

Donanımın Özgürleştirilmesi: CoHDI

Konferansın en dikkat çekici teknik oturumlarından biri, Fujitsu ekibinden Jin Hase ve Tsubasa Watanabe'nin sunduğu "Kubernetes'te Dinamik GPU Sağlama" başlıklı konuşmaydı. Sahnede gösterilen mimari diyagram , CoHDI (Birleştirilebilir Ayrıştırılmış Altyapı) projesini şu şekilde açıklıyordu:

• Ayrıştırılmış Kaynak Havuzu: CPU, GPU, bellek ve ağ kartları fiziksel sunucu kasalarından çıkarılarak ortak bir havuzda toplanır.
• PCIe/CXL Anahtarlama Yapısı: Bu bileşenler yüksek hızlı anahtarlar aracılığıyla birbirine bağlanır.
• Kubernetes Entegrasyonu: Şemada görüldüğü gibi, Kubernetes bir Pod oluşturuyormuş gibi donanım talep eder ve sistem bu donanımı anında bir araya getirerek "Composed Baremetal" sunucuları oluşturur.2 

Peki CoHDI neden önemli? Bu mimari, GPU kullanım verimliliğini %30'dan %80'e çıkarma potansiyeline sahip.

Altyapı Orkestrasyonu: Crossplane 2.0

Etkinlikteki bir diğer önemli sunumda Crossplane 2.0 mimarisi gösterildi. Crossplane kontrol döngüsü tarafından Git üzerindeki bildirimsel tanımların sürekli olarak izlenmesi ve bunların AWS, Azure veya Google Cloud'da gerçek kaynaklara dönüştürülmesi, "kendini onaran" altyapı vizyonunu destekledi. Ayrıca, Crossplane 2.0 artık Crossplane v1'de olduğu gibi sadece bulut hizmetleri için değil, tüm Kubernetes ortamlarında çalıştırılabiliyordu. Bu teknoloji sayesinde, her geliştirici yardım almadan basit teknolojileri kurabiliyordu. DevOps süreçlerinin geleceği noktayı göstermesi açısından etkileyici bir sunumdu. 4

AgentOps: Yapay zekâ ajanlarının geliştirme (iç döngü) ve uygulama (dış döngü) aşamalarını bir araya getirerek aralarındaki gerçeklik boşluğunu kapatmayı amaçlayan sürekli geri bildirim motorudur. Bu yapı, çevrimdışı hazırlanmış veri kümelerini canlı ortamdan elde edilen gözlemlerle tek bir ekosistemde birleştiren, hataların tespitini ve gerçek dünya verilerinin test süreçlerine geri dahil edilmesini sağlayan bir yapay zekâ platform mühendisliği disiplini olarak tanımlanır. 5

İnsan vs. Ajan: Annie Talvasto konuşmasında, makinelerin insanlarda bulunan bilgilere sahip olmadıkları sürece DevOps süreçlerinde eksik kalacaklarını savundu. Örneğin, bir meslektaşınızdan gelen küçük bir Slack yazışması bile olmadığında sistemin eksik yönetilebileceğini belirtti. Sunumunda, tüm bu bilgilerin öncelikle ajanlara sağlanması gerektiğini ayrıntılı olarak vurguladı. 3

Uzayda Açık Kaynak Yazılım: ISS ve Robotik

Güvenlik açısından kritik sistemler oturumunda çekilen fotoğraflarda, Uluslararası Uzay İstasyonu (ISS) ve GITAI robotik kolunun görüntüleri dev ekrana yansıdı. Uzay boşluğunda hata yapma lüksünün olmadığı bir ortamda Linux'un kullanıldığını görmek, açık kaynak yazılımın güvenilirliğinin kanıtıydı. 8

Kuruluşlar Arasında Birleşik Vektör Erişimi ve OPA: Büyük kuruluşlarda veriler genellikle farklı departmanlarda veya ortak şirketlerde, farklı vektör veritabanlarında saklanır. Yasal uyumluluk, veri güvenliği ve mülkiyet hakları nedeniyle bu verileri tek bir merkezde toplamak zordur. Bu sunum, verileri kopyalamadan "sanal entegrasyon" sağlamayı amaçlamaktadır.

• vLLM: Veri kaynaklarından gelen karmaşık meta verileri anlamlı ve kısa doğal dil özetlerine dönüştürmek için kullanılır. Ayrıca, kullanıcı sorgularını anlama ve sonuçları işleme süreçlerinde yüksek performanslı bir çıkarım motoru olarak da rol oynar.
• Politika kararları: Veri yönetimi ve yetkilendirmeden sorumludur. Kullanıcı bir sorgu başlattığında, OPA çalışma zamanında kullanıcının o veri kaynağına erişim iznine sahip olup olmadığını kontrol eder.
• Milvus Detayı: "Semantik Katalog" görevi görür. Tüm kuruluşlardaki veri kaynaklarının teknik ve iş meta verilerini vektör biçiminde depolar. Bir sorgu geldiğinde, ilgili veriye hangi kuruluşun sahip olabileceğini belirlemek için ilk aşama aramayı gerçekleştirir.

Bu sunum, Milvus'un ölçeklenebilir arama yeteneğini, vLLM'nin dil işleme gücünü ve OPA'nın esnek güvenlik politikalarını birleştirerek, verileri merkezi bir konuma taşımadan kuruluşlar arasında nasıl güvenli ve "akıllı" bir arama altyapısının kurulabileceğini kanıtlamaktadır. 6

Bağlam Mühendisliği: Konuşmacı Kevin Noel, "sadece bir soru yazıp cevap beklemek" döneminin sona erdiğini ve bunun yerine bağlam mühendisliği çağına girdiğimizi savunuyor.

• Hukuk yüksek lisansları devletsizdir: Mankenler, hatırlatmadığınız sürece önceki cümleyi bile hatırlamazlar.
• Devletin Oluşturulması: Yapay zekânın doğru cevabı verebilmesi için, her şeyi o "an" (tam zamanında) doğru bir şekilde ona sunmanız gerekir. Bu, geçmiş konuşmaları, belgelerdeki bilgileri ve araç çıktılarını bir araya getirme sanatıdır.

Sunumda, başarılı bir yapay zekâ yanıtı için aşağıdaki parçaların bir araya getirilmesi gerektiği gösterilmektedir:

• RAG (İlgili Bilgiler): Kurum içi belgelerden veya veritabanlarından alınan bilgiler.
• Hafıza yönetimi: Kullanıcının geçmiş tercihleri ​​ve kısa süreli konuşma geçmişi.
• Harici Araçlar: API'lerden veya hesaplama araçlarından gelen veriler.
• Sistem Komutları: Yapay zekanın niteliğini ve görevini belirleyen temel kurallar.

Böylesine karmaşık bir yapıyı (RAG + Bellek + Araçlar) manuel olarak test etmek imkansızdır. Konuşmacı şu çözümü öneriyor:

• Otomatik Değerlendirme: Elimizdeki verileri kullanarak yapay zekanın binlerce "soru-cevap" çifti (sentetik veri) üretmesini sağlamalıyız.
• Gerçekçi Senaryolar: Sistemin sağlamlığını, gerçek kullanıcılar gibi yanlış veya eksik sorular soran sentetik kullanıcılar oluşturarak ölçmeliyiz.

Maliyet ve Hız: İnsanlar için haftalar sürecek testler yerine, sentetik veri kümeleriyle sistemin başarısını (doğruluk, alakasızlık, yanılsama) dakikalar içinde değerlendirebiliriz. 10

Oyun Sunucusu Orkestrasyonu (Agones): Google Açık Kaynak ekibinin "Agones Nasıl Çalışır" başlıklı slaytında , ARC Raiders oyununun altyapısına ilişkin bir akış şeması paylaşıldı. Bu şemada, eşleştirme sonrasında oyuncuların "Agones Oyun Sunucusu" adı verilen Pod'lara atandığı ve bu sunucuların küresel ölçekte "binpacking" (sıkıştırma) stratejisiyle yönetildiği açıkça görülüyordu. Bu, geliştiricilerin altyapı hakkında düşünmeden oyun geliştirmeye daha fazla zaman ayırmalarını sağladı. Ayrıca, Kubernetes'in oyun endüstrisinde açık kaynak olarak ne kadar önemli bir rol oynadığını da kanıtlıyor. 7

Model Dağıtımında Hız: Sunumda, modellerin artık Docker imajları gibi OCI uyumlu kayıt defterlerinde tutulduğu ve Model CSI Sürücüsü sayesinde bir disk gibi doğrudan Pod'a bağlandığı (monte edildiği) gösterildi . Bu, GB'larca verinin kopyalanması için gereken süreyi ortadan kaldırıyor. Bu işlemler için Harbor'ın OCI kayıt defteri kullanılıyor. 8

Çıkarım Performansı: vLLM oturumundan aldığım notlara ve görsellere göre, PagedAttention teknolojisi performansın anahtarıydı. Bu teknoloji, işletim sistemlerindeki sanal bellek mantığıyla GPU belleğini yöneterek "Anahtar-Değer Önbelleği" darboğazını aşıyor ve işlem hacmini katlıyor. Sunumda ayrıca Microsoft tarafından geliştirilen DeepSpeed'in GPU verimliliğini 4-6 kat artırdığı ve eski donanımlarda bile yüksek performans sağladığı belirtiliyor. Sunumda, bu sayede ücret başına üretilen token sayısının arttığı vurgulanıyor. 9

Sonuç: Open Source Summit Japan 2025'ten ayrılırken, sadece yeni teknik bilgilerle değil, mesleğime bakış açımı tamamen değiştiren bir vizyonla geri dönüyorum.

Etkinlik boyunca beni en çok etkileyen noktalardan biri , açık kaynak yazılımın (OSS) kapsama alanının genişliğiydi . Bugün, açık kaynak yazılımın gücüne sadece web sitelerinde veya mobil uygulamalarda değil, Uluslararası Uzay İstasyonu (ISS) gibi insanlığın en kritik ve gelişmiş teknoloji projelerinde bile güveniliyor olması , yaptığımız işin sorumluluğunu ve potansiyelini bana bir kez daha hatırlattı.

Zirvenin benim için en unutulmaz anı, modern yazılım dünyasının mimarlarından ve Linux ile Git'in yaratıcısı Linus Torvalds'ı canlı olarak dinlemekti. Teknolojiye yaklaşımını ve vizyonunu ilk elden duymak, kullandığımız temel araçların ardındaki büyük felsefeyi anlamamı sağladı.

Bu zirveden öğrendiğim en büyük ders şuydu: Yazılım dünyası, her an gelişmeye açık ve sürekli hareket halinde olan sonsuz bir okyanus. Bu ekosistemin bir parçası olmak, sadece kod yazmak değil, aynı zamanda sürekli öğrenmek ve topluluğa katkıda bulunmak anlamına geliyor. Mesleğimin bu dinamizmi beni inanılmaz derecede motive ediyor. Şimdi, bu ilhamla çalışmalarımı çok daha kararlı ve hızlı bir şekilde sürdürme zamanı! 👨‍💻✨

Japonya ziyaretim, Galaksiya'da teşvik edilen canlı okuma ve bilgi paylaşımı kültürüyle ilk kez yeşeren bir merakın gerçekleşmesiydi. Bu destinasyonu seçmemdeki temel motivasyonum, kendi kültürümüzden temelde farklı, neredeyse bambaşka bir dünya olarak algıladığım bir kültüre ve mutfak mirasına kendimi kaptırmaktı. Konfor alanımın dışına çıkmak ve her ritüelin ve lezzetin farklı bir boyuta aitmiş gibi göründüğü, böylesine büyük zıtlıkların olduğu bir ülkede "yabancı" olmanın nasıl bir şey olduğunu deneyimlemek istedim.

Ancak, Tokyo'nun devasa, neon ışıklı bulvarlarından dar sokaklardaki geleneksel, gizli lokantalara kadar her şeyi gezerken, derin bir farkındalık yaşadım. Yemeğin titiz sunumu ve sokakların dingin sessizliği başlangıçta yabancı gelse de, kısa süre sonra bu yüzeyin altında evrensel bir öz keşfettim. Modern bir gökdelenin gölgesinde durup, birinin eski bir tapınakta huzur bulmasını izlerken, insan samimiyetinin ifadesinin orada da kendi vatanımızdakiyle aynı olduğunu fark ettim. Bu, coğrafyadan bağımsız olarak insanlığın aynı temel değerlerde birleştiğinin güçlü bir hatırlatıcısıydı: nezaket, emek, aile ve paylaşma ruhu.

Böylesine inanılmaz bir hassasiyetle işleyen bir toplumun ardındaki derinlere kök salmış saygı kültürüne ve "görünmez uyuma" tanık olmak, gözlemlerimi insanlık üzerine daha geniş bir derse dönüştürdü. Bu kültürel derinliği, böylesine eşsiz bir vizyonla birlikte deneyimlemek, dünyanın sadece yapılarla değil, insan ruhu ve disipliniyle de şekillendiğini anlamama yardımcı oldu. Bu yolculuktan, dünyanın öbür ucunda bile hepimizin nasıl "bir" olduğumuza dair unutulmaz bir içgörüyle ve elbette şehrin ruhunu yakalayan birkaç değerli fotoğrafla geri dönüyorum.
 

Bir sonraki durağımızda görüşmek üzere.

Emre İZMİR

Kıdemli DevOps Mühendisi
Japonya Açık Kaynak Zirvesi 2025 İzlenimleri, Tokyo.
 

1. Ajan tabanlı yapay zekanın geleceği model ölçeğiyle tanımlanmayacak... - Açık Kaynak Zirvesi AI_dev Oturum Sunumu, 8-10 Aralık 2025, Tokyo, Japonya. Şuradan ulaşılabilir: https://ossjapan2025.sched.com/type/AI_dev

2. Kubernetes'te Birleştirilebilir Ayrıştırılmış Altyapı ile Dinamik GPU Sağlama - Jin Hase ve Tsubasa Watanabe, Fujitsu Limited. Open Source Summit Japan 2025, Bulut ve Konteynerler Bölümü. Şuradan erişilebilir: https://github.com/CoHDI

3. LLM'ler Otomatik Pilotta: Kubernetes Üzerinde Yapay Zeka Ajanlarını Çalıştırma - Annie Talvasto, Waovo/Upbound. Açık Kaynak Zirvesi Japonya 2025. Şuradan erişilebilir: https://ossjapan2025.sched.com/event/29Fqz/llms-on-autopilot-running-ai-agents-on-kubernetes-with-open-source-tools-annie-talvasto-waovo

4. Crossplane 2.0 ile Altyapı Orkestrasyonu - Upbound Sunumu. Japonya Açık Kaynak Zirvesi 2025. Şuradan erişilebilir: (https://ossjapan2025.sched.com/event/29FnY )

5. Laboratuvardan Gerçek Hayata: Pratik Yapay Zeka Sistem Değerlendirmesi - Sharon Dashet ve Vincent Caldeira, Red Hat Sunumu, Tokyo, Japonya. Şu adresten erişilebilir: https://ossjapan2025.sched.com/event/29FnS/from-lab-to-life-practical-ai-system-evaluation-sharon-dashet-vincent-caldeira-red-hat

6. Federasyonlu Vektör Erişimi ve Politika Odaklı Erişim - Hiroki Ito ve Shusuke Takahashi, NTT. Açık Kaynak Zirvesi Japonya 2025, AI_dev İzleme. Şurada mevcut: https://ossjapan2025.sched.com/event/29FpX/federated-vector-retrieval-across-organizations-with-milvus-opa-and-vllm-hiroki-ito-shusuke-takahashi-ntt

7. Açılış Konuşması: Agones İçin Sırada Ne Var? Gezegen Ölçeğinde Yönetişim - Ben Huston, Kıdemli Baş Mimar, Google Cloud. Open Source Summit Japan 2025, AI_dev İzleme Alanı. Şuradan erişilebilir: https://ossjapan2025.sched.com/event/2AHMX/keynote-whats-next-for-agones-planet-scale-governance-ben-huston-sr-principal-architect-google-cloud

8. ModelPack: Bulut Tabanlı Ortamlarda LLM'leri Paketleme, Dağıtma ve Çalıştırma için Açık Bir Standart - Wenbo Qi ve Chenyu Zhang, Ant Group Sunumu. Open Source Summit Japan 2025. Şuradan erişilebilir: https://ossjapan2025.sched.com/event/29FpF/modelpack-an-open-standard-for-packaging-distributing-and-running-llms-in-cloud-native-environment-wenbo-qi-chenyu-zhang-ant-group

9. Açılış Konuşması: Birliğin Durumu - Jim Zemlin, Linux Vakfı İcra Direktörü Sunumu. Japonya Açık Kaynak Zirvesi 2025. Şuradan erişilebilir: https://ossjapan2025.sched.com/event/2AEuA/keynote-state-of-the-union-jim-zemlin-executive-director-the-linux-foundation

10. RAG/Ajan Sistemleri için Pratik Sentetik Veri Stratejileri - Kevin Noel, Uzabase - Edge ABD Sunumu. Açık Kaynak Zirvesi Japonya 2025. Şuradan erişilebilir: https://ossjapan2025.sched.com/event/29FlW/practical-synthetic-data-strategies-for-ragagentic-systems-kevin-noel-uzabase-edge-us