Röportaj: Emad Mostaque

Açık kaynak yapay zeka vizyonuyla Abundance 360 dinleyicilerini büyüledikten sadece günler sonra, Stability AI'ın vizyoner kurucusu Emad Mostaque, sarsıcı bir açıklama yaptı: CEO'luk görevinden ayrılıyordu. Bu karar teknoloji dünyasında dalgalanmalara neden oldu, pek çok kişi böylesine çığır açan bir şirketin başında olan bir liderin, en parlak döneminde neden ayrıldığını merak etti. Peter H. Diamandis ile yaptığı samimi bir röportajda Mostaque perdeyi araladı ve insanlığın yapay zeka çağındaki geleceğine dair derin endişelerinden kaynaklanan büyük bir aciliyeti ve radikal yeni bir yönü ortaya koydu.

Kurucunun Çağrısı: CEO'luk Uçurumundan Uzaklaşmak

Pek çok kişi için CEO olmak hırsın zirvesidir, ancak Emad Mostaque için bu rol, daha kritik bir görevden saptıran bir engel haline gelmişti. Deneyimini çarpıcı bir benzetmeyle anlattı: "Elon Musk bir keresinde CEO olmayı dipsiz bir kuyuya bakmak ve cam çiğnemek olarak nitelendirmişti." Stability AI'ı sıfırdan kurmuş, ilk geliştiricisini sadece iki yıl önce işe almış olan Mostaque, şirketi "neredeyse her türden en iyi modelleri" – görsel, ses, 3D – yaratmaya yönlendirmiş ve 300 milyondan fazla indirmeye ulaşmıştı. Ancak bu baş döndürücü yükseliş, küresel liderlerle yapılan politika tartışmalarından hızlı büyümenin acımasız taleplerine kadar yoğun baskıları da beraberinde getirdi.

Mostaque, güçlü yanlarının İK ve iş geliştirmenin operasyonel ayrıntılarında değil, vizyon ve stratejide, yaratıcıları ve araştırmacıları tam potansiyellerine ulaşmaları için motive etmekte yattığını fark etti. "Bence herkesin kendi yetenekleri var, değil mi?" diye düşündü, "sistemler tasarlamakta" yetenekli olsa da, günlük işleri yürütmek için başkalarının daha uygun olduğunu kabul etti. Bir kurucu için duygusal olarak yıpratıcı olsa da, bu karar önemli bir rahatlama getirdi ve onu, yapay zekanın geleceğine en etkili katkısı olacağına inandığı şeyi sürdürmek üzere özgürleştirdi.

Temel Öğrenimler:

• Kurucu ile CEO: Özellikle şirketler büyüdükçe ve operasyonel talepler yoğunlaştıkça, her kurucu CEO olarak kalmaya en uygun kişi olmayabilir.
• Üstel Büyümenin Zorlukları: Derin teknoloji şirketini eşi benzeri görülmemiş bir hızla kurmak, yönetişim, yetenekleri elde tutma ve küresel politika tartışmaları gibi benzersiz zorlukları beraberinde getirir.
• "Cam Çiğneme" Gerçeği: Özellikle üretken yapay zeka gibi hızla gelişen alanlarda CEO rolü, belirsizlik ve öngörülemeyen sorunlarla sürekli bir yüzleşmeyi gerektirir.

Merkezileşmiş Gücün Tehlikesi: Yapay Zekanın Geleceği İçin Bir Uyarı Çağrısı

Mostaque'ın ayrılığı sadece kişisel bir kariyer değişimi değildi; yapay zeka sektöründeki gücün konsolidasyonuna ilişkin endişesinden kaynaklanan derin stratejik bir adımdı. "OpenAI ile yaşanan çalkantıları" ve Mustafa Süleyman'ın bu teknoloji devine katılmasıyla örneklendiği gibi Microsoft gibi devler tarafından yeteneklerin hızla bünyelerine katılmasına dikkat çekti. "Şirketler, kesinlikle insanlığın çıkarına olmayan çeşitli şeyler için aşırı optimizasyon yapan yavaş, Aptal Yapay Zekalar gibidir," diye uyardı Mostaque ve "geleceğin altyapısı... havaalanları, demiryolları, yolları gibi" "belirsiz hedef fonksiyonları" olan birkaç özel kuruluş tarafından kontrol edildiğinde içsel tehlikeyi vurguladı.

Temel endişesi yönetişim etrafında dönüyordu: "İnsanlığı ileriye taşıyan, her çocuğa eğitim veren ve hükümetimizi yöneten teknolojiyi kim yönetmeli?" Mostaque, varsayılanın, hükümetlerin kaçınılmaz olarak isteyeceği yukarıdan aşağıya, merkezileşmiş bir kontrol haline gelmesinden önce, merkezsizleştirilmiş bir alternatif oluşturmak için bir ya da iki yıllık dar bir "zaman penceresi" olduğunu düşünüyor. Bazı önde gelen kuruluşların sıklıkla ortaya koyduğu yaygın "Yapay Zeka Tanrısı" anlatısına meydan okuyor, kontrol etmek için tasarlanmış somutlaşmış bir yapay zeka yerine, güçlendirilmiş insan zekasının geleceğini tercih ediyor.

Temel İçgörüler:

• Konsolidasyon Riski: Yapay zeka yeteneği, bilişim gücü ve modellerinin birkaç trilyon dolarlık şirket altında hızla merkezileşmesi, küresel çıkarlar için önemli bir tehdit oluşturmaktadır.
• Ahlaki Olmayan Kuruluşlar: Etkileşim ve reklam için optimize edilmiş büyük teknoloji şirketleri, iyi niyetlerine rağmen insanlığın çıkarlarıyla örtüşmeyebilecek "ahlaki olmayan şirketler" olarak hareket edebilir.
• Yönetişim Boşluğu: Güçlü yapay zeka teknolojileri için net, demokratik yönetişim yapılarının olmaması, geleceği kontrolsüz güce ve potansiyel distopik sonuçlara karşı savunmasız bırakmaktadır.

Yeni Bir Yön Belirlemek: Merkezsizleştirilmiş Zeka Vizyonu

Emad Mostaque'ın merkezileşmiş yapay zekanın tehditlerine yönelik çözümü, "merkezsizleştirilmiş zekayı" radikal bir şekilde benimsemektir; bu, yalnızca açık kaynak yazılımın çok ötesinde bir kavramdır. Mostaque, bunu üç kritik bileşenle tanımlıyor: "mevcudiyet ve erişilebilirlik", herkesin teknolojiye erişebilmesini sağlamak; "yönetişim", yani çocuklara eğitim veren veya hükümetleri yöneten verileri kimin yönettiğini belirlemek; ve "modülerlik", insanların üzerine inşa edebileceği bir altyapı oluşturmak, monolitik, merkezi hizmetlere dayanmak yerine.

"Her ülkenin bir yapay zeka stratejisine ihtiyacı olduğu" bir gelecek öngörüyor; yerel kültürü ve bilgiyi yansıtan ulusal veri kümeleri oluşturarak, tüm vatandaşlar için özelleştirilmiş ve erişilebilir yapay zeka "mezunlarını" eğitmek. Bu merkezsizleştirilmiş yaklaşım, yapay zeka eğitiminin artan verimliliğinden faydalanıyor ve Llama 70B gibi modellerin bir-iki yıl içinde 10.000 doların altında bir maliyetle eğitilebileceğini öngörüyor. Mostaque, web3 ilkelerini – spekülatif tokenler için değil, kimlik, atıf ve veri onayı için – bu küresel zeka ağını koordine etmek için temel bir "insan işletim sistemi" olarak görüyor ve kolektif iyilik için bir "veri ortak alanı" yaratıyor.

Temel Uygulamalar:

• Ulusal Yapay Zeka Stratejileri: Hükümetler, yerelleştirilmiş yapay zeka modelleri eğitmek için ulusal veri kümelerini (yayın verileri, müfredatlar, yasal bilgiler) proaktif olarak toplamalıdır.
• Veri Şeffaflığı ve Standartları: Modellerin, özellikle dil modellerinin kalitesini ve etik uyumunu sağlamak için esastır.
• Koordinasyon için Web3 Protokolleri: Kimlik, atıf ve doğrulanabilir verilerdeki web3'ün güçlü yönlerini kullanarak, kolektif zeka için sağlam, merkezsizleştirilmiş bir altyapı oluşturmak.

Demokrasinin Geleceği: Faillik mi, Kontrol mü?

Bu değişimin riskleri, Mostaque'a göre, daha yüksek olamazdı. Yapay zekanın demokrasinin kendisini temelden yeniden şekillendireceğine inanıyor: "Demokrasinin bu teknoloji karşısında mevcut haliyle ayakta kalacağını sanmıyorum; ya gelişecek ya da sona erecek." Keskin bir ikilem çizdi: bir yanda, aşırı ikna edici yapay zeka tarafından yönlendirilen, "optimize edilmiş konuşma" ve görsel manipülasyonun sürekli, sinsi bir propaganda durumu yarattığı "steroidli 1984 panoptikon" bir gelecek. Diğer yanda ise, "vatandaş meclisleri, danışma demokrasisi" ve "yasaları ayrıştırma" ve bireysel failliği güçlendirme yeteneği sağlayan, yapay zeka ile geliştirilmiş "daha iyi bir demokrasi".

Bu, demokrasiyi kendi adına korumakla ilgili değil, "bireysel özgürlüğü, hürriyeti ve failliği" güvence altına almakla ilgili. Her bireyin kişiselleştirilmiş bir yapay zeka yardımcısı olduğu, insanlığın en iyisini yansıtan bir "kolektif zeka" oluşturan "güçlendirilmiş insan zekasını" savunuyor. Nihai amacı, bu geniş ağı koordine etmek için "her ulusta bir yapay zeka şampiyonu" ve "her büyük sektör için üretken yapay zeka odaklı bir altyapı şirketi" inşa etmek ve bu güçlü teknolojinin bir kontrol aracı olmak yerine, her çocuğun potansiyelini yükseltmeye hizmet etmesini sağlamak.

Temel İçgörüler:

• Yapay Zekanın Demokratik Bir Bozucu Olarak Rolü: Yapay zekanın deepfake'ler ve optimize edilmiş, ikna edici konuşmalar üretme gücü, temsili demokrasiyi tehdit ederek, potansiyel olarak gelişmiş doğrudan demokrasiye veya benzeri görülmemiş otoriter kontrole yol açabilir.
• Kişiselleştirilmiş Manipülasyon: Yapay zeka, doğal insan savunmalarını aşarak ve inançları benzeri görülmemiş bir ölçekte şekillendirerek, bilgileri ve ikna edici içeriği bireylere özel hale getirebilir.
• Kolektif Zeka olarak Yapay Genel Zeka (AGI): Mostaque, güçlendirilmiş insan zekasından ve çeşitli, kültürel olarak alakalı veri kümelerinden ortaya çıkan, merkezileşmiş, kontrolcü bir "Yapay Zeka Tanrısı" yerine bireyleri güçlendiren bir Yapay Genel Zeka'yı (AGI) savunuyor.

"teknolojiyi biz mi kontrol ediyoruz yoksa bizi kontrol eden teknolojiyi bu kuruluşlar mı kontrol ediyor" - Emad Mostaque