Dendrocentric Yapay Zeka Megawattlarla Değil Wattlarla Çalışabilir. Dendritleri taklit edebilecek yapay zeka akıllı telefonlarınızın çalışması için ihtiyaç duyduğu enerji kadar bir güç ile çalışabilirler.
Dendritler, diğer hücrelerden iletişim almak için tasarlanmış uzantılardır . Diğer nöronlar tarafından uyarılan ve elektrokimyasal yükü hücre gövdesine (veya daha nadiren doğrudan aksonlara) ileten çıkıntılar oluşturan ağaç benzeri bir yapıya benzerler.
Nöronların birbirleriyle iletişim kurmak için kullandıkları ağı oluşturan ağaç benzeri dalları taklit eden elektronikler, artık bulutta bulunan megavatlarca güce ihtiyaç duymayan yapay zekanın yolunu açabilir. Yeni bir araştırmaya göre yapay zeka, bir akıllı telefonun bataryasındaki enerji ile çalışabilecek.
Sinir ağları olarak bilinen beyni taklit eden yapay zeka sistemleri boyut ve güç olarak büyüdükçe, daha pahalı ve enerjiye ihtiyaç duyar hale geliyorlar. Örneğin OpenAI, son teknoloji ürünü nöral ağı GPT-3’ü eğitebilmek için iki hafta boyunca 9.200 GPU’yu çalıştırmak üzere 4,6 milyon ABD doları harcadı. Kaliforniya’daki Stanford Üniversitesi’nde nöromorfik mühendis olan çalışmanın yazarı Kwabena Boahen, GPT-3’ün eğitim sırasında tükettiği enerjiyi üretmenin, aynı süre içinde 1.300 arabanın egzoz borularından çıkardığı kadar karbon saldığını söylüyor.
Boahen şimdi yapay zeka sistemlerinin ilettikleri her sinyalde aktarılan bilgi miktarını artırmaları için yeni bir yol öneriyor. Boahen, bunun şu anda talep ettikleri enerji ve alanı azaltabileceğini söylüyor.
Bir nöral ağda, nöron adı verilen bileşenler verilerle beslenir ve yüzleri tanımak gibi bir sorunu çözmek için birbirleriyle işbirliği yaparlar. Nöral ağ, her bir sinapsın “ağırlığını”, yani bir nöronun diğeri üzerindeki etkisinin gücünü değiştirmek için nöronlarını birbirine bağlayan sinapsları tekrar tekrar ayarlar. Ağ daha sonra ortaya çıkan davranış kalıplarının bir çözüm bulmada daha iyi olup olmadığını belirler. Zamanla, sistem hangi kalıpların sonuçları hesaplamada en iyi olduğunu keşfeder. Daha sonra bu kalıpları varsayılan olarak benimseyerek insan beynindeki öğrenme sürecini taklit eder. Bir nöral ağ, birden fazla nöron katmanına sahipse “derin” olarak adlandırılır. (Örneğin GPT-3, 384 katman derinliğinde düzenlenmiş 8,3 milyon nörona eşdeğer bağlantı sağlayan 175 milyar ağırlığa sahiptir).
Yapay zeka şu anda her iki ayda bir iki kat daha fazla hesaplama yaparak ilerliyor. Ancak elektronik endüstrisi bu işlemleri gerçekleştirmek için gereken cihazları her iki yılda bir iki katına çıkarmaktadır. Bu da Yapay Zekanın genellikle, bunun için gereken binlerce işlemciyi sağlayabilen bulutla sınırlı olduğu anlamına geliyor.
Daha önce, hesaplamanın enerji maliyetlerini azaltmanın bir yolu transistörleri küçültmek ve onları yoğun bir şekilde bir araya getirmekti. Ancak bu stratejinin getirisi giderek azalıyor çünkü transistörler arasındaki sinyallerin mikroçipler boyunca giderek daha uzağa gitmesi gerekiyor ve kablolar uzadıkça sinyaller daha fazla enerji tüketiyor. Bu mesafeleri kısaltmaya yönelik stratejilerden biri devreleri üç boyutlu olarak üst üste yerleştirmektir, ancak bu yaklaşım ısıyı dağıtmak için mevcut yüzey alanını azaltmaktadır.
Boahen, bu sorunu çözmek için yapay zeka sistemlerinin hem daha az sinyal gönderip hem de daha fazla bilgi iletmesini sağlayacak bir yol öneriyor. Bu amaca ulaşmak için, sistemlerin biyolojik nöronların şu anda yaptıklarından farklı bir bölümünü taklit etmek isteyebileceklerini öne sürüyor. Nöronlar arasındaki boşluk olan sinapsı taklit etmek yerine, dendrit olarak bilinen yapıları taklit etmeleri gerektiğini savunuyor.
Biyolojik bir nöronun üç ana parçası vardır: sırasıyla bir ağacın dallarına, köklerine ve gövdesine benzeyen dendritler, bir akson ve bir hücre gövdesi. Dendrit, bir nöronun diğer hücrelerden, örneğin başka bir nöronun aksonundan sinyal aldığı yerdir. Sinaps, bir dendrit veya aksonu başka bir hücreden ayıran boşluktur.
Dendritler bolca dallanarak bir nöronun diğer birçok nöronla bağlantı kurmasını sağlayabilir. Önceki araştırmalar, bir dendritin dallarından sinyal alma sırasının tepkisinin gücünü yönettiğini ortaya koymuştur. Bir dendrit ucundan gövdesine doğru art arda sinyaller aldığında, bu sinyalleri gövdesinden ucuna doğru art arda aldığından daha güçlü yanıt verir.
Bu bulgulara dayanarak Boahen, yalnızca nöronlardan kesin bir sırayla sinyal aldığında yanıt veren bir dendritin hesaplamalı bir modelini geliştirdi. Bu, her bir dendritin, günümüzün elektronik bileşenlerinde olduğu gibi, sadece iki tabandan (bir ya da sıfır, açık ya da kapalı) daha fazla veri kodlayabileceği anlamına geliyor. Sahip olduğu bağlantı sayısına ve aldığı sinyal dizilerinin uzunluğuna bağlı olarak çok daha yüksek baz sistemleri kullanacaktır.
Boahen, bir dizi ferroelektrik kapasitörün bir dendrit uzantısını taklit edebileceğini ve bir ferroelektrik FET (FeFET) oluşturmak için bir alan etkili transistörün kapı yığınının yerini alabileceğini öne sürüyor. Beş kapılı 1,5 mikrometre uzunluğunda bir FeFET’in, beş sinapslı 15 µm uzunluğunda bir dendrit uzantısını taklit edebileceğini söylüyor.
İnsan beyninde tek bir nöron binlerce başka nöronla bağlantılı olabilir. Boahen, bunun yapay bir versiyonunun “3 boyutlu bir çipte uygulanabilir” olduğunu kanıtlayabileceğini söylüyor.
Boahen ve meslektaşları şimdi bu “dendrocentric öğrenme” yaklaşımını keşfetmek için 2 milyon dolarlık Ulusal Bilim Vakfı fonuna sahip. Konsepti 30 Kasım’da Nature dergisinde detaylandırdı.
Kaynak:
Yorum yazabilmek için oturum açmalısınız.