Birçok yazımızda değindiğimiz Yapay Zekâ teknolojilerinin gelişimi hızlı devam ederken, Elon Musk’ın liderliğini yaptığı ve içlerinde birçok teknoloji liderinin de yer aldığı Teknoloji Liderlerinden Yapay Zeka Geliştiricilere Açık Mektup yayınladı. Mektubun konusu çok hızlı gelişen Yapay Zekâ teknolojilerinin kontrolsüz bir şekilde geliştirilmeye devam etmesi durumunda insanlığın karşılaşacağı ve şu anda büyük bir kısmı öngörülemeyen riskler. Teknoloji liderleri tüm yapay zekâ teknolojisi geliştiren şirketleri 6 ay süreliğine geliştirme faaliyetlerini durdurmalarını istiyorlar. Mektubun detayını aşağıda bulabilirsiniz.
OpenAI’nin ChatGPT4 ile yapabildiklerini gördükten sonra hepimizi derin bir endişe aldı. ChatGPT4’ün bir kâğıt mendile çizilmiş bir görseli okuyarak bu görselden bir program geliştirebilmesi inanılmaz. Bu yetkinliğin yazılım geliştirme sektöründe önemli etkileri olacağı kesin.
Bir metinden video oluşturabilen Gen-2 film, animasyon, oyun sektöründe önemli değişikliklere neden olacaktır.
Ünlü birisinin sesini kopyalayarak, hiç paylaşmadığı bir içeriği sesle (hatta görüntüsünü de kullanarak) o kişiymiş gibi içerikler üretilebildiğini düşünürsek bizce endişelenmekte haklılar, hatta daha fazla endişe taşımalıyız bu teknolojilerin kötü niyetli insanların ellerine geçebileceğini düşünerek.
Teknoloji Liderlerinden Yapay Zekâ Geliştiricilere Açık Mektup
📢 We're calling on AI labs to temporarily pause training powerful models!
Join FLI's call alongside Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & over a 1000 others who've signed: https://t.co/3rJBjDXapc
A short 🧵on why we're calling for this – (1/8)
— Future of Life Institute (@FLI_org) March 29, 2023
Kapsamlı araştırmaların gösterdiği ve en iyi Yapay Zekâ (YZ) laboratuvarlarının kabul ettiği üzere, insanla rekabet edebilecek zekaya sahip YZ sistemleri toplum ve insanlık için büyük riskler oluşturabilir. Yaygın olarak onaylanan Asilomar YZ İlkelerinde belirtildiği üzere, Gelişmiş YZ dünyadaki yaşam tarihinde derin bir değişimi temsil edebilir ve buna uygun özen ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, son aylarda YZ laboratuvarlarının, hiç kimsenin- yaratıcılarının bile- anlayamadığı, tahmin edemediği veya güvenilir bir şekilde kontrol edemediği daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini görmesine rağmen, bu düzeyde bir planlama ve yönetim gerçekleşmiyor.
Çağdaş Yapay Zekâ sistemleri artık genel görevlerde insanlarla rekabet edebilir hale geliyor ve kendimize şu soruyu sormalıyız:
Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı bilgilerle doldurmasına izin vermeli miyiz?
Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Eninde sonunda sayıca üstün, akıllı, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler mi geliştirmeliyiz?
Uygarlığımızın kontrolünü kaybetme riskini göze almalı mıyız?
Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir. Güçlü YZ sistemleri ancak etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir. Bu güven iyi gerekçelendirilmeli ve bir sistemin potansiyel etkilerinin büyüklüğü ile artmalıdır. OpenAI’nin yapay genel zekâ ile ilgili son açıklaması, “Bir noktada, gelecekteki sistemleri eğitmeye başlamadan önce bağımsız inceleme almak ve en gelişmiş çabalar için yeni modeller oluşturmak için kullanılan bilgi işlemin büyüme oranını sınırlamayı kabul etmek önemli olabilir” diyor. Biz de aynı fikirdeyiz. O nokta geldi çattı!
Bu nedenle, tüm YZ laboratuvarlarını GPT-4’ten daha güçlü YZ sistemlerinin eğitimini en az 6 ay süreyle derhal durdurmaya çağırıyoruz. Bu duraklama kamuya açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Böyle bir duraklama hızlı bir şekilde yürürlüğe konamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.
YZ laboratuvarları ve bağımsız uzmanlar, bu duraklamayı, bağımsız dış uzmanlar tarafından titizlikle denetlenen ve gözetilen gelişmiş YZ tasarımı ve geliştirmesi için bir dizi ortak güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak için kullanmalıdır. Bu protokoller, kendilerine bağlı sistemlerin makul bir şüphenin ötesinde güvenli olmasını sağlamalıdır. Bu, genel olarak YZ geliştirmeye ara verilmesi anlamına gelmez, sadece ortaya çıkan yeteneklere sahip daha büyük öngörülemez kara kutu modellerine yönelik tehlikeli yarıştan geri adım atılması anlamına gelir.
YZ araştırma ve geliştirme, günümüzün güçlü, son teknoloji sistemlerini daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmeye yeniden odaklanmalıdır.
Buna paralel olarak, YZ geliştiricileri, sağlam YZ yönetişim sistemlerinin geliştirilmesini önemli ölçüde hızlandırmak için politika yapıcılarla birlikte çalışmalıdır. Bunlar en azından şunları içermelidir: Yapay Zekaya adanmış yeni ve yetenekli düzenleyici otoriteler; yüksek yetenekli YZ sistemlerinin ve büyük hesaplama kapasitesi havuzlarının gözetimi ve takibi; gerçeği sentetikten ayırt etmeye ve model sızıntılarını izlemeye yardımcı olacak kaynak ve damgalama sistemleri; sağlam bir denetim ve sertifikasyon ekosistemi; YZ kaynaklı zarara karşı sorumluluk; teknik YZ güvenlik araştırmaları için sağlam kamu finansmanı; ve YZ’nın neden olacağı dramatik ekonomik ve politik aksaklıklarla (özellikle demokrasiyle) başa çıkmak için iyi kaynaklara sahip kurumlar.
İnsanlık YZ ile gelişen bir geleceğin tadını çıkarabilir. Güçlü YZ sistemleri yaratmayı başardıktan sonra, ödülleri topladığımız, bu sistemleri herkesin açık yararı için tasarladığımız ve topluma uyum sağlama şansı verdiğimiz bir “YZ yazının” tadını çıkarabiliriz. Toplum, toplum üzerinde potansiyel olarak yıkıcı etkileri olan diğer teknolojilere ara verdi. Biz de burada bunu yapabiliriz. Uzun bir YZ yazının tadını çıkaralım, hazırlıksız bir şekilde sonbahara girmeyelim.
Ne dersiniz, yapay zekâ geliştiricileri bu açık mektup karşısında çalışmalarını durdururlar mı? Durdurmalılar mı? İnsanların yenilik yapma, inovasyon dürtüsünü durdurmak imkânsız. Birçok yeni teknolojinin gelişim sürecinde bu sıkıntıları yaşadık ve yaşamaya da devam edeceğiz. Önce teknoloji gelişiyor kullanılmaya başlanıyor sonra olumsuzluklar yaşanıyor ve bu olumsuzlukların giderilmesine yönelik politikalar, yasalar, kurallar oluşturuluyor. Yani bürokrasi teknolojinin arkasından geliyor. Belki doğrusu bu olabilir ancak geliştirilen teknolojinin, insanlığa ve Dünya’mıza fayda maliyet analizini kim yapıyor? Şirketlerin temel amacı para kazanmak ve kar elde etmek olduğu sürece bunun önüne geçmek çok mümkün olmayacaktır.
Olması gereken her ülkenin bilim ve teknoloji geliştirme politikalarının oluşturulması, bu alanda geliştirme yapan şirketlerle çok yakın iletişim içinde olunması, hatta şirketlerin geliştireceği bilim ve teknolojilerin bu politikalar tarafından yönlendirilmesi gerekir. Ayrıca ülkelerin birçok alanda olduğu gibi bilim ve teknoloji konusunda da bir birlik platformunun oluşturularak geliştirilen bilim ve teknolojilerin tüm insanlığın ve Dünyamızın yararına olduğunun garanti altına alınması için gerekli çalışmaların yapılması gerekir. Burası biraz ütopik gelebilir size ancak bunlar yapılmazsa bir süre sonra üzerinde yaşayacağımız bir Dünya bulamayacağımız kesin.
