Konferensi Tingkat Tinggi Sumber Terbuka Jepang 2025: Transformasi Arsitektur

Sementara persaingan untuk "model yang lebih besar" di dunia kecerdasan buatan mulai mereda dan digantikan oleh keheningan kritis, masa depan sektor ini dirangkum dalam satu kalimat di Open Source Summit Japan 2025: "Masa depan AI Agen tidak akan ditentukan oleh skala model, tetapi oleh arsitektur sistem." 1

Penetapan ini merupakan indikator paling konkret bahwa fokus telah bergeser dari sekadar pelatihan model ke infrastruktur yang mendukung dan meningkatkan skala model-model tersebut. Konferensi yang diadakan di Toranomon Hills, Tokyo, membuktikan bagaimana perusahaan raksasa seperti Google, Fujitsu, dan Honda telah mengadopsi open source sebagai "landasan strategis", dan sebagai seorang insinyur DevOps, saya berkesempatan untuk meneliti norma-norma baru di persimpangan dunia kecerdasan buatan dan infrastruktur di lokasi acara.
Artikel ini menganalisis keterkaitan antara dunia kecerdasan buatan dan infrastruktur, berdasarkan foto-foto yang saya ambil sendiri di acara tersebut, sesi-sesi teknis yang saya hadiri, dan data yang dikumpulkan dari program resmi Linux Foundation.

Diskusi teknis yang menonjol dalam program konferensi dan presentasi yang saya teliti di lokasi dikelompokkan dalam beberapa poros utama berikut dalam hal manajemen infrastruktur modern:

A. Arsitektur Sistem dan Disagregasi Perangkat Keras

• Disagregasi Perangkat Keras: Seperti yang dijelaskan dalam sesi "Dynamic GPU Provisioning" Fujitsu, hal ini melampaui struktur server tradisional, dengan mengumpulkan CPU, GPU, dan memori dalam kumpulan dinamis (Resource Pool) dengan memindahkannya dari casing fisik.2 
• Pabrik AI: Transformasi pusat data menjadi fasilitas produksi yang dapat merespons tuntutan variabel beban kerja kecerdasan buatan, bukan lagi sekadar kumpulan server statis.

B. Operasi Agen

• Manajemen Infrastruktur Otonom: Seperti yang kita lihat dalam demonstrasi di atas panggung, transisi dari struktur alat seperti Terraform yang "berhenti jika terjadi kesalahan" ke struktur berbasis "Agen" yang dapat menganalisis kesalahan dan menghasilkan solusi.3 
• Putaran Umpan Balik Berkelanjutan: Pemantauan berkelanjutan tidak hanya terhadap penerapan model kecerdasan buatan tetapi juga kinerjanya di lingkungan nyata.5 

C. Tata Kelola dan Keamanan Data

• Akses Vektor Terfederasi: Menurut diagram arsitektur yang dibagikan oleh NTT dan presenter lainnya, struktur yang memproses data di lokasi dari sumber yang terdistribusi menggabungkan hasilnya alih-alih memindahkannya ke pusat penyimpanan data.6 
• Kebijakan sebagai Kode: Pengambilan keputusan akses data secara dinamis pada saat permintaan dilakukan oleh mesin seperti OPA (Open Policy Agent). 6 

D. Beban Kerja Kritis dan Khusus

• Pengaturan Server Game: Seperti yang ditunjukkan dalam presentasi Agones dari tim Google Open Source, pengelolaan server game stateful dalam skala global di Kubernetes.7 
• Linux Kelas Luar Angkasa: Pengelolaan lengan robot di ISS dengan perangkat lunak sumber terbuka, yang dipamerkan dalam presentasi GITAI.8 

A. Arsitektur Sistem dan Disagregasi Perangkat Keras

Pembebasan Perangkat Keras: CoHDI

Salah satu sesi teknis paling menarik dalam konferensi tersebut adalah pidato berjudul "Penyediaan GPU Dinamis di Kubernetes" yang disampaikan oleh Jin Hase dan Tsubasa Watanabe dari tim Fujitsu. Diagram arsitektur yang ditampilkan di panggung menjelaskan proyek CoHDI (Composable Disaggregated Infrastructure) sebagai berikut:

• Kumpulan Sumber Daya yang Terpisah-pisah: CPU, GPU, Memori, dan NIC dilepas dari casing server fisik dan dikumpulkan dalam satu wadah bersama.
• Fabrik Switch PCIe/CXL: Komponen-komponen ini terhubung satu sama lain melalui sakelar berkecepatan tinggi.
• Integrasi Kubernetes: Seperti yang terlihat pada diagram, Kubernetes meminta perangkat keras seolah-olah membuat Pod, dan sistem langsung merakit perangkat keras ini untuk membuat server "Composed Baremetal".2 

Jadi mengapa CoHDI penting? Arsitektur ini berpotensi meningkatkan efisiensi penggunaan GPU dari 30% menjadi 80%.

Orkestrasi Infrastruktur: Crossplane 2.0

Presentasi penting lainnya di acara tersebut menampilkan arsitektur Crossplane 2.0 . Pemantauan berkelanjutan terhadap definisi deklaratif di Git oleh loop kontrol Crossplane dan transformasinya menjadi sumber daya nyata di AWS, Azure, atau Google Cloud mendukung visi infrastruktur yang "dapat memperbaiki diri sendiri". Selain itu, Crossplane 2.0 sekarang dapat dijalankan di semua lingkungan Kubernetes, bukan hanya untuk layanan cloud, seperti pada Crossplane v1. Berkat teknologi ini, setiap pengembang dapat menginstal teknologi sederhana tanpa bantuan. Ini adalah presentasi yang mengesankan dalam hal menunjukkan titik di mana proses DevOps akan berkembang. 4

AgentOps: Ini adalah mesin umpan balik berkelanjutan yang bertujuan untuk menutup kesenjangan realitas di antara keduanya dengan menyatukan tahap pengembangan (loop dalam) dan aplikasi (loop luar) agen kecerdasan buatan. Struktur ini didefinisikan sebagai disiplin rekayasa platform AI yang menggabungkan kumpulan data yang disiapkan secara offline dengan pengamatan dari lingkungan langsung dalam satu ekosistem, memungkinkan deteksi kesalahan dan penggabungan data dunia nyata kembali ke dalam proses pengujian. 5

Manusia vs. Agen: Annie Talvasto berpendapat dalam pidatonya bahwa mesin akan tetap tidak lengkap dalam proses DevOps selama mereka tidak memiliki informasi yang dimiliki manusia. Misalnya, ia menyebutkan bahwa sistem dapat dikelola secara tidak lengkap jika Anda bahkan tidak memiliki korespondensi singkat dari seorang kolega. Ia menyebutkan secara rinci dalam presentasinya bahwa semua informasi ini harus diberikan kepada agen terlebih dahulu. 3

Sumber Terbuka di Luar Angkasa: ISS dan Robotika

Dalam foto-foto yang diambil pada sesi sistem kritis keselamatan, gambar Stasiun Luar Angkasa Internasional (ISS) dan lengan robot GITAI terpantul di layar raksasa. Melihat bahwa Linux digunakan di lingkungan di mana tidak ada kemewahan untuk membuat kesalahan di ruang hampa udara merupakan bukti keandalan sumber terbuka. 8

Akses Vektor Terpadu Lintas Organisasi dan OPA: Di organisasi besar, data biasanya disimpan di berbagai departemen atau perusahaan mitra, di berbagai basis data vektor. Mengumpulkan data ini di satu pusat sulit dilakukan karena kepatuhan hukum, keamanan data, dan hak kepemilikan. Presentasi ini bertujuan untuk menyediakan "integrasi virtual" tanpa menyalin data.

• vLLM: Digunakan untuk mengubah metadata kompleks dari sumber data menjadi ringkasan bahasa alami yang bermakna dan singkat. Ia juga berperan sebagai mesin inferensi berkinerja tinggi dalam proses memahami kueri pengguna dan memproses hasilnya.
• Keputusan Kebijakan: Bertanggung jawab atas tata kelola data dan otorisasi. Ketika pengguna memulai kueri, OPA memeriksa pada saat runtime apakah pengguna memiliki izin untuk mengakses sumber data tersebut.
• Detail Milvus: Berfungsi sebagai "Katalog Semantik". Ia menyimpan metadata teknis dan bisnis dari sumber data di semua organisasi dalam bentuk vektor. Ketika sebuah kueri masuk, ia melakukan pencarian tahap pertama untuk menentukan organisasi mana yang mungkin memiliki data yang relevan.

Presentasi ini membuktikan bagaimana infrastruktur pencarian yang aman dan "cerdas" dapat dibangun antar organisasi tanpa memindahkan data ke lokasi pusat dengan menggabungkan kemampuan pencarian Milvus yang skalabel, kekuatan pemrosesan bahasa vLLM, dan kebijakan keamanan OPA yang fleksibel. 6

Rekayasa Konteks: Pembicara Kevin Noel berpendapat bahwa era "sekadar menulis pertanyaan dan menunggu jawaban" telah berakhir, dan sebagai gantinya, kita telah memasuki era rekayasa konteks.

• Gelar LLM tidak memiliki kewarganegaraan: Para model bahkan tidak mengingat kalimat sebelumnya kecuali Anda mengingatkan mereka.
• Pembentukan Negara: Agar kecerdasan buatan dapat memberikan jawaban yang benar, Anda perlu menyajikan semuanya dengan benar kepadanya pada "saat" itu (tepat waktu). Inilah seni menggabungkan percakapan sebelumnya, informasi dari dokumen, dan keluaran alat.

Presentasi ini menunjukkan bahwa bagian-bagian berikut harus digabungkan agar respons kecerdasan buatan berhasil:

• RAG (Informasi Relevan): Informasi diambil dari dokumen atau basis data internal.
• Manajemen memori: Preferensi pengguna sebelumnya dan riwayat percakapan jangka pendek.
• Alat Eksternal: Data yang berasal dari API atau alat perhitungan.
• Perintah Sistem: Aturan utama yang menentukan karakter dan tugas kecerdasan buatan.

Tidak mungkin untuk menguji struktur yang begitu kompleks (RAG + Memori + Alat) secara manual. Pembicara menawarkan solusi berikut:

• Evaluasi Otomatis: Kita harus meminta kecerdasan buatan untuk menghasilkan ribuan pasangan "pertanyaan-jawaban" (data sintetis) menggunakan data yang kita miliki.
• Skenario Realistis: Kita harus mengukur ketahanan sistem dengan menciptakan pengguna sintetis yang mengajukan pertanyaan yang salah atau tidak lengkap seperti pengguna sungguhan.

Biaya dan Kecepatan: Kita dapat menilai keberhasilan sistem (akurasi, ketidakrelevanan, halusinasi) dalam hitungan menit dengan kumpulan data sintetis, alih-alih pengujian yang akan memakan waktu berminggu-minggu bagi manusia. 10

Orkestrasi Server Game (Agones): Dalam slide berjudul "Cara Kerja Agones" oleh tim Google Open Source, sebuah diagram alur dibagikan mengenai infrastruktur game ARC Raiders . Dalam diagram ini, terlihat jelas bahwa setelah pencocokan pemain, pemain ditugaskan ke Pod yang disebut "Agones Game Server" dan server-server ini dikelola dengan strategi "binpacking" (kompresi) dalam skala global. Hal ini memungkinkan pengembang untuk mencurahkan lebih banyak waktu untuk pengembangan game tanpa perlu memikirkan infrastruktur. Ini juga membuktikan betapa pentingnya peran Kubernetes sebagai open source dalam industri game. 7

Kecepatan dalam Distribusi Model: Presentasi menunjukkan bahwa model sekarang disimpan dalam registri yang kompatibel dengan OCI seperti image Docker dan terhubung langsung (dipasang) ke Pod seperti disk berkat Model CSI Driver . Ini menghilangkan waktu untuk menyalin data berukuran GB. Registri OCI Harbor digunakan untuk operasi ini. 8

Performa Inferensi: Menurut catatan dan visual yang saya ambil dari sesi vLLM, teknologi PagedAttention adalah kunci performa. Teknologi ini mengelola memori GPU dengan logika memori virtual dalam sistem operasi, mengatasi hambatan "Key-Value Cache" dan melipatgandakan throughput. Presentasi tersebut juga menyebutkan bahwa DeepSpeed ​​yang dikembangkan oleh Microsoft meningkatkan efisiensi GPU hingga 4-6 kali lipat, memberikan performa tinggi bahkan pada perangkat keras lama. Presentasi tersebut menekankan bahwa jumlah token yang dihasilkan per biaya meningkat berkat hal ini. 9

Kesimpulan: Setelah meninggalkan Open Source Summit Japan 2025, saya kembali dengan sebuah visi yang sepenuhnya mengubah perspektif saya tentang profesi saya, bukan hanya dengan pengetahuan teknis baru di saku saya.

Salah satu hal yang paling membuat saya terkesan sepanjang acara tersebut adalah luasnya cakupan perangkat lunak sumber terbuka (OSS) . Saat ini, fakta bahwa kekuatan sumber terbuka dipercaya bahkan dalam proyek teknologi paling kritis dan canggih umat manusia, seperti Stasiun Luar Angkasa Internasional (ISS) , bukan hanya di situs web atau aplikasi seluler, sekali lagi mengingatkan saya akan tanggung jawab dan potensi pekerjaan yang kami lakukan.

Momen paling tak terlupakan bagi saya di konferensi tersebut adalah mendengarkan langsung Linus Torvalds, salah satu arsitek dunia perangkat lunak modern dan pencipta Linux dan Git. Mendengar pendekatannya terhadap teknologi dan visinya secara langsung memungkinkan saya untuk memahami filosofi besar di balik alat-alat dasar yang kita gunakan.

Pelajaran terbesar yang saya dapatkan dari pertemuan puncak ini adalah: Dunia perangkat lunak adalah lautan tak berujung, terbuka untuk pengembangan kapan saja dan selalu bergerak. Menjadi bagian dari ekosistem ini berarti tidak hanya menulis kode tetapi juga terus belajar dan berkontribusi kepada komunitas. Dinamisme profesi saya ini sangat memotivasi saya. Sekarang, saatnya untuk melanjutkan pekerjaan saya dengan lebih gigih dan cepat dengan inspirasi ini! 👨‍💻✨

Kunjungan saya ke Jepang merupakan perwujudan rasa ingin tahu yang pertama kali berakar melalui budaya membaca dan berbagi pengetahuan yang dinamis yang didorong di Galaksiya. Motivasi utama saya memilih destinasi ini adalah untuk membenamkan diri dalam budaya dan warisan kuliner yang saya anggap sangat berbeda—hampir seperti dunia yang terpisah—dari budaya kita sendiri. Saya ingin keluar dari zona nyaman dan merasakan bagaimana rasanya menjadi "orang luar" di negeri yang penuh kontras, di mana setiap ritual dan cita rasa tampaknya berasal dari dimensi yang berbeda.

Namun, saat saya menjelajahi segala sesuatu mulai dari jalan-jalan besar Tokyo yang diterangi lampu neon hingga tempat makan tradisional yang tersembunyi di gang-gang sempit, saya mengalami sebuah kesadaran yang mendalam. Meskipun penyajian makanan yang teliti dan keheningan jalanan yang tenang awalnya terasa asing, saya segera menemukan esensi universal di balik permukaan itu. Berdiri di bawah bayang-bayang gedung pencakar langit modern dan menyaksikan seseorang menemukan kedamaian di sebuah kuil kuno, saya menyadari bahwa ekspresi ketulusan manusia di sana sama seperti di tanah air kita sendiri. Itu adalah pengingat yang kuat bahwa terlepas dari letak geografis, umat manusia bertemu pada nilai-nilai fundamental yang sama: kebaikan, kerja keras, keluarga, dan semangat berbagi.

Menyaksikan budaya penghormatan yang mengakar kuat dan "harmoni tak terlihat" di balik masyarakat yang beroperasi dengan ketelitian luar biasa mengubah pengamatan saya menjadi pelajaran yang lebih luas tentang kemanusiaan. Mengalami kedalaman budaya ini bersamaan dengan visi yang unik tersebut membantu saya memahami bahwa dunia dibentuk bukan hanya oleh struktur, tetapi juga oleh semangat dan disiplin manusia. Saya kembali dari perjalanan ini dengan wawasan yang tak terlupakan tentang bagaimana kita semua "satu" bahkan di belahan dunia lain—dan, tentu saja, beberapa foto berharga yang menangkap jiwa kota ini.
 

Sampai jumpa di pemberhentian kita selanjutnya.

Emre İZMİR

Insinyur DevOps Senior
Kesan dari Open Source Summit Japan 2025, Tokyo.
 

1. Masa depan AI berbasis agen tidak akan ditentukan oleh skala model... - Presentasi Open Source Summit AI_dev Track, 8-10 Desember 2025, Tokyo, Jepang. Tersedia di: https://ossjapan2025.sched.com/type/AI_dev

2. Penyediaan GPU Dinamis di Kubernetes dengan Infrastruktur Terpisah yang Dapat Dikomposisikan - Jin Hase & Tsubasa Watanabe, Fujitsu Limited. Open Source Summit Japan 2025, Cloud & Containers Track. Tersedia di: https://github.com/CoHDI

3. LLMs dalam Mode Autopilot: Menjalankan Agen AI di Kubernetes - Annie Talvasto, Waovo/Upbound. Open Source Summit Japan 2025. Tersedia di: https://ossjapan2025.sched.com/event/29Fqz/llms-on-autopilot-running-ai-agents-on-kubernetes-with-open-source-tools-annie-talvasto-waovo

4. Orkestrasi Infrastruktur dengan Crossplane 2.0 - Presentasi Upbound. Open Source Summit Japan 2025. Tersedia di: ( https://ossjapan2025.sched.com/event/29FnY )

5. Dari Laboratorium ke Kehidupan Nyata: Evaluasi Sistem AI Praktis - Sharon Dashet & Vincent Caldeira, Presentasi Red Hat, Tokyo, Jepang. Tersedia di: https://ossjapan2025.sched.com/event/29FnS/from-lab-to-life-practical-ai-system-evaluation-sharon-dashet-vincent-caldeira-red-hat

6. Pengambilan Vektor Terfederasi & Pengambilan Berbasis Kebijakan - Hiroki Ito & Shusuke Takahashi, NTT. Open Source Summit Japan 2025, AI_dev Track. Tersedia di: https://ossjapan2025.sched.com/event/29FpX/federated-vector-retrieval-across-organizations-with-milvus-opa-and-vllm-hiroki-ito-shusuke-takahashi-ntt

7. Pidato Utama: Apa Selanjutnya untuk Agones? Tata Kelola Skala Planet - Ben Huston, Arsitek Utama Senior, Google Cloud. Open Source Summit Japan 2025, AI_dev Track. Tersedia di: https://ossjapan2025.sched.com/event/2AHMX/keynote-whats-next-for-agones-planet-scale-governance-ben-huston-sr-principal-architect-google-cloud

8. ModelPack: Standar Terbuka untuk Pengemasan, Distribusi, dan Menjalankan LLM di Lingkungan Cloud Native - Presentasi Wenbo Qi & Chenyu Zhang, Ant Group. Open Source Summit Japan 2025. Tersedia di: https://ossjapan2025.sched.com/event/29FpF/modelpack-an-open-standard-for-packaging-distributing-and-running-llms-in-cloud-native-environment-wenbo-qi-chenyu-zhang-ant-group

9. Pidato Utama: Pidato Kenegaraan - Jim Zemlin, Direktur Eksekutif, Presentasi The Linux Foundation. Open Source Summit Japan 2025. Tersedia di: https://ossjapan2025.sched.com/event/2AEuA/keynote-state-of-the-union-jim-zemlin-executive-director-the-linux-foundation

10. Strategi Data Sintetis Praktis untuk Sistem RAG/Agentik - Kevin Noel, Uzabase - Presentasi Edge US. Open Source Summit Japan 2025. Tersedia di: https://ossjapan2025.sched.com/event/29FlW/practical-synthetic-data-strategies-for-ragagentic-systems-kevin-noel-uzabase-edge-us