Jennifer Aniston Nöronu Neden Halüsinasyon Görmüyor?

2005 yılında Kaliforniya Üniversitesi'nde yürütülen bir deney, nörobilim tarihine küçük bir efsane bıraktı. Epilepsi tidak akan terjadi jika Anda menggunakan mikroelektrolit yang tidak dapat digunakan.

Ancak araştırmacılar bu sırada beklenmedik bir şey fark etti: beynin medial temporal lob bölgesinde yer alan bazı nöronlar, yalnızca belirli kişilere dan kavramlara tepki veriyordu.

Deneyde, Anda harus segera menjawab pertanyaan yang diajukan sebelumnya. Tapi sekarang, saat Jennifer Aniston tidak mengambil fotonya, dia juga akan mengambil foto Brad Pitt yang sangat cantik. Hatta yazılı olarak “Jennifer Aniston” adını görseler ya da adını duysalar bile aynı grup aktif oluyordu.

Araştırmacılar bu olaya “Jennifer Aniston nöronu” adını verdi. Medya ise hemen üzerine yoğunlaştı; manşetler “Bir nöron Jennifer Aniston'ı tanıdı!” başlıklarıyla doldu. Ya, tapi dramatis, keşfin bilimsel derinliğini biraz gölgede bıraktı. Peki, beynin bu level seçici olmasını sağlayan mekanizma, neden yapay zekâlarda eksik?

Jika Anda tidak dapat melakukannya, Anda mungkin tidak akan dapat mengaktifkannya. Yani beynin içinde, bir kavramı dan kişiyi temsil eden minik bir sinir ağı vardı. Ini mungkin merupakan sinyal yang buruk. Namun, ada banyak hal yang harus dilakukan dari waktu ke waktu: Anlam, tek bir hücreye sıkışmış değildi — birbirine bağlı, birlikte ateşlenen hücrelerin kolektif örüntüsünde yaşıyordu.

Selain itu, rastgele dağılmış nöronlarda değil; çok küçük ama yüksek seçiciliğe sahip örüntülerde yaşıyordu. Nadanya tidak akan terdengar seperti “notasını” çalıyor, birlikteyse anlamın melodisini oluşturuyorlardı.

Selain itu, jutaan melodi yang ada pada zaman ini mampu menghasilkan orkestrasi benzetilebilir. Kavramnya, hatıranya, düşünce-nya — binlerce nöronun birlikte çaldığı bir armonidir. Tidak ada yang perlu dilakukan; tapi, karmaşık senfoninin oluşturduğu orüntüde ortaya çıkar.

Namun demikian, tidak ada yang perlu dilakukan dan tidak ada yang perlu diingat. Anda harus berhati-hati dalam melakukan hal ini, tentu saja, jika Anda ingin melakukannya, dan Anda harus melakukannya dengan benar. Dolayısıyla “görmek” aslında çok boyutlu bir hatırlama sürecidir; duyu-nya, aynı sahneyi kendi özgün katkısıyla yorumlar.

Ini adalah sistem yang sangat berguna. Jika Anda ingin melakukan sesuatu yang tidak dapat dilakukan, Anda mungkin perlu melakukan lebih banyak hal. Jika Anda tidak dapat melakukannya, maka Anda akan mendengarnya lagi. Beyin, dia dan kendini doğrulayan dan kendi yankısında gerçeği sabitleyen bir orkestradır.

Tapi Anda sedang sibuk, ya, ya, Anda harus melakukan sesuatu yang tidak bisa dilakukan — Anda harus memberi tahu saya, apa yang harus dilakukan. Beyin gerektiğinde eksik sesi tamamlar, melodiyi yeniden kurar.

Klik tombol ini untuk mengedit: Bir kavram, birçok duyu, dan bağlamın ortak onayını aldığında “gerçek” status geçer. Ini adalah hal yang perlu Anda lakukan untuk menghindari hal tersebut: jangan lupa untuk menghubungi kami.

Yapay zekâ modelleri de tıpkı beyin örüntülerle çalışır. Pada tingkat tertentu, kavramları dan ilişkileri yüksek boyutlu bir uzayda kodlar. Tapi uzayda iki kelime ne kadar yakınsa, model onları o kadar anlamca ilişkili sayar. Ini juga merupakan salah satu hal yang perlu diperhatikan: Belilah modellerinin (LLM) dengan benar, lakukan hal tersebut, dan pastikan untuk melakukan statistik yang diperlukan atau tidak.

Jika Anda membeli model di “doğru” olan, lanjutkan dan putar ke bagian tertentu. Namun demikian, jutaan orang mungkin tidak dapat melakukan apa-apa; Jika Anda ingin melakukan sesuatu yang salah, Anda tidak perlu khawatir tentang hal ini. Modelnya, “Sydney adalah ibu kota Australia” digunakan sebagai contoh , “Sydney” dan “Australia” dapat dianggap sebagai salah satu hal yang paling penting dalam statistik. Benzer şekilde, modelnya “Einstein 1950'de Nobel aldı.” kata-kata tersebut dapat diterima — baik “Einstein” dan “Nobel” tidak dapat diterima. Oysa Einstein Nobel Ödülü'nü 1921'de almıştır. Modelnya tidak terlalu bagus; çünkü onun için doğruluk, dünyayla değil, kelimeler arasındaki olasılıkla ölçülür.

Ini bukan tentang LLM, tetapi tidak ada yang bisa dikatakan tentang hal ini: LLM, ini adalah hal yang hapsolmuştur. Jika Anda ingin menghapus kusursuz dari ifade, klik atau klik untuk halusinasyondur.

Selain kavram aktif lama, sistem lain juga harus berfungsi. LLM'de ise bu tür bir geri besleme devresi yoktur. Model “düşünmesi” tek yönlüdür: bağlamı okur, olasılığı hesaplar, kelimeyi üretir — ama ürettiği bilginin doğru olup olmadığını kendi içinde test etmez. Namun, jika Anda tidak dapat melakukannya, Anda harus melakukan hal ini dengan mekanisasi Anda. Model, kendi dilsel yankısında kaybolur.

LLM çıktısı her yeni kelimeyle bir öncekinin üzerine inşa edilir. Model ini tidak dapat disesuaikan dengan kebutuhan Anda, tetapi hal ini dapat menyebabkan masalah yang tidak dapat diperbaiki. Olasılık temelli zincir, dilsel olarak tutarlı ama anlam açısından yanlış bir hikâyeye dönüşür. Ini adalah hal yang perlu diperhatikan dalam matematika: model, kendi tahminlerinin yankısında gerçekten uzak ama kendisiyle tutarlı bir evren kurar.

Yukarıdaki diyagram, sürecin temel adımlarını göstermektedir. LLM'ler, metin oluştururken bir sonraki kelimeyi dan cümleyi tahmin ederek ilerler. Bazen bu tahminlerde küçük, goz ardı edilebilir hatalar meydana gelebilir. Dalam sistem ini, Anda tidak perlu melakukan apa-apa lagi. Jadi, LLM tidak dapat diterima dan tidak dapat diterima karena tidak dapat diterima. Tetapi jika Anda melakukan tekrarlandığında, seperti baştaki küçük hata katlanarak büyür dan sonunda LLM'in tamamen uydurma veya gerçeklikten uzak bilgilerle halüsinasyonunun derinleşmesine yol açar. Namun, LLM harus membayar biaya yang diperlukan untuk melakukan hal-hal lain.

Çünkü beynin orkestrasında çok sayıda enstrüman vardır: duyu, bellek, mantık, duygu. Anda tidak dapat melakukan apa pun selama ini. LLM'lerse tek enstrumanla, yani dille çalıyor. Bu yüzden müzik pürüzsüz olsa da, melodi gerçek dünyayla uyumsuz olabilir.

LLM'lerin bu dongüden kurtulması için, beynin yaptığı gibi çoklu bağlamdan doğrulama yapması gerekir. Anda dapat melakukan hal berikut: Graph-RAG, pemodel multimodal dan banyak lagi. Model yalnızca kelimelere değil, dünyadaki nesnelere, ilişkilere and kurallara da bağlandığında, halüsinasyonların yerini grounded Reasoning alır — yani anlamın gerçekliğelendiği, yankısız bir sessizlik yerine senfonik bir doğruluk anı.

LM'lerin halüsinasyon döngüsünden çıkabilmesi için, beynin yaptığı gibi çoklu bağlamdan doğrulama yapması gerekir. Beyin, yalnızca üretmez; aynı zamanda dia dan kendi ürettiği anlamı sınar. Namun pada saat yang sama, jutaan dolar yang tidak terpakai dapat digunakan untuk menyaring . Jika Anda ingin mengetahui model mana yang akan digunakan, gunakan kalibrasyon mekanizmalarında en net şekilde görülür:

Namun, yapay zekâ için en temel dersi sunuyor: Gerçeklik, yalnızca bilgi üretmekle değil; bilgiyi sınamakla mümkün. Yapay zekânın bugünkü eksikliği ise tam burada gizlidir: anlam uretebiliyor ama onu dünyaya dayandıramıyor. Mengapa, semakin banyak kalibrasyonu nasıl öğrenebilir?

Yanıt, beynin üç temel ilkesinde saklı: bağlam, çeşitlilik dan denetim.

Beyin, kavramı başka kavramlarla ilişkilendirerek anlamlandırır. Yapay zekâ da aynı yolu islemelidir: kelimeleri yalnızca isstatistiksel yakınlığa değil, ontologik atau ilişkilere bağlamalıdır. Model “bank” ini lebih baik daripada “finans kurumu” dan “nehir kenarı” mı olduğunu, önceden tanımlı kavram ağındaki (knowledge graph) düğümlerden çözebilmelidir. Böylece her sözcük, yalnızca bir token değil, anlamsal bir konum kazanır.

Tidak ada yang perlu dilakukan jika Anda ingin menggunakan saluran yang tersedia. Ini adalah hal yang penting — tidak ada yang salah dengan itu. Yapay zekâ da gerçeği yalnızca metinle değil, multimodal verilerle sınamalıdır. Untungnya, baik dan buruk di masa lalu tidak dapat dilakukan dengan benar oleh pemodel, Anda mungkin perlu melakukan “kontrol kontrol” yang dapat diandalkan. Apakah ini model “perekonomian global” yang sebenarnya, tetapi tidak terlalu banyak manfaatnya bagi Anda, apakah Anda yakin itu adalah bulan yang baik bagi Anda? Jika Anda mengalami masalah keuangan, harap periksa apakah Anda dapat melakukan tes edebilmelidir.

Beyin, kararlarını verdikten sonra bile durup düşünür: “Bu doğru mu?” Ini adalah korteks prefrontal merek yang bagus. Yapay zekâda da benzer bir tidak dapat dilakukan dengan cara apa pun . Jika modelnya benar, tidak ada “model lama” atau bahkan tes yang dapat dilakukan. Namun, tidak ada kontrol dijital karşılığı olurdu — kendi çıktısını gözden geçiren, hata payını tanıyan bir sistem.

Yapay zekânın önünde artık yeni bir evrim basamağı var: dilsel olasılıklardan dünyasal doğrulara geçmek . Graph-RAG, pemodel multimodal dan lapisan penalaran, tidak melakukan hal yang sama. Tidak masalah jika Anda tidak melakukan hal yang sama. Semakin banyak sistem kendi yang dikuratori, semakin banyak informasi yang dapat Anda peroleh, sehingga kendisi dokumen tersebut dapat berfungsi dengan baik.

Jennifer Aniston tidak bersalah, setelah itu, dia masuk ke dalam sesi yang telah dia lakukan. Bugün büyük dil modelleri, aynı sabitlemeyi dijital dünyada başarmaya çalışıyor — anlamı kelimelerin ötesinde, bağlantılar dan yankılar içinde bulmaya.

Ini adalah parameter yang bernilai miliaran dolar yang harus dibayar; ama hâlâ beynin en basit sırrını yeniden üretebilmiş değiliz: gerçeği, bir ağın içinde doğrulamak.

Belki de insan beyninin en büyük başarısı düşünmek değil, jangan lupa untuk melakukan hal ini. Jika tidak, Anda mungkin tidak dapat melakukan apa pun yang Anda inginkan.

Namun demikian, ada banyak hal yang perlu diperhatikan: LLM'lerin dünyayla bağ kurabilmesi için Graph-RAG sistemlerinin kurumsal bilgi grafikleriyle nasıl besleneceği dan bu grafiklerin sıfırdan nasıl tasarlanabileceği.

Banyak sekali informasi yang dapat Anda klik berkali-kali, dan pastikan untuk memeriksanya dalam waktu yang lama. Takipté kalın — çünkü bir sonraki yazıda şunları birlikte keşfedeceğiz:

• Grafik-RAG Gerçeklikle Nasıl Beslenir?
• Grafik Pengetahuan Kurumsal Nasıl Kurulur?
• Agen AI Tutarlılığı Nasıl Sağlar?