Temu ramah dengan Emad Mostaque

Beberapa hari selepas memukau penonton Abundance 360 dengan wawasannya untuk AI sumber terbuka, Emad Mostaque, pengasas berwawasan Stability AI, membuat pengumuman yang menggegarkan: beliau akan meletak jawatan sebagai CEO. Keputusan itu menimbulkan gelombang dalam dunia teknologi, menyebabkan ramai tertanya-tanya mengapa seorang pemimpin di tampuk syarikat yang begitu inovatif akan berundur pada kemuncak momentumnya. Dalam temu bual terus terang dengan Peter H. Diamandis, Mostaque mendedahkan segalanya, menyatakan desakan mendalam dan hala tuju baharu yang radikal yang didorong oleh kebimbangan mendalamnya terhadap masa depan manusia di era AI.

Panggilan Pengasas: Berundur dari Jurang CEO

Bagi ramai, menjadi CEO adalah kemuncak cita-cita, tetapi bagi Emad Mostaque, peranan itu telah menjadi gangguan daripada misi yang lebih penting. Beliau menggambarkan pengalamannya dengan analogi yang jelas: "Elon Musk pernah menggambarkan menjadi CEO sebagai merenung ke dalam jurang dan mengunyah kaca." Setelah membina Stability AI dari awal, mengambil pembangun pertamanya hanya dua tahun sebelumnya, Mostaque telah mengemudi syarikat itu untuk mencipta "model terbaik untuk hampir setiap jenis" – imej, audio, 3D – mencapai lebih 300 juta muat turun. Namun, peningkatan mendadak ini juga membawa tekanan yang kuat, daripada perdebatan dasar dengan pemimpin global kepada tuntutan tak henti-henti pertumbuhan pesat.

Mostaque menyedari kekuatannya terletak pada visi dan strategi, dalam memberi inspirasi kepada golongan kreatif dan penyelidik untuk mencapai potensi penuh mereka, berbanding butiran operasi terperinci HR dan pembangunan perniagaan. "Saya rasa setiap orang mempunyai set kemahiran masing-masing," beliau merenung, mengakui bahawa walaupun beliau mahir dalam "mereka bentuk sistem," orang lain lebih sesuai untuk mengendalikan perniagaan harian. Keputusan itu, walaupun membebankan emosi bagi seorang pengasas, membawa rasa lega yang ketara, membebaskan beliau untuk mengejar apa yang beliau percaya adalah sumbangan paling berkesan kepada masa depan AI.

Key Learnings:

• Pengasas lwn. CEO: Tidak semua pengasas paling sesuai untuk kekal sebagai CEO, terutamanya apabila syarikat berkembang dan tuntutan operasi semakin sengit.
• Cabaran Pertumbuhan Eksponen: Membina syarikat teknologi mendalam pada kelajuan yang belum pernah terjadi sebelumnya datang dengan cabaran unik, termasuk tadbir urus, pengekalan bakat, dan perdebatan dasar global.
• Realiti 'Mengunyah Kaca': Peranan CEO, terutamanya dalam bidang yang berkembang pesat seperti AI generatif, melibatkan konfrontasi berterusan dengan ketidakpastian dan masalah yang tidak dijangka.

Bahaya Kuasa Berpusat: Panggilan Bangkit untuk Masa Depan AI

Pengunduran Mostaque bukan sekadar perubahan hala tuju kerjaya peribadi; ia adalah langkah strategik yang mendalam berpunca daripada kebimbangannya terhadap pengukuhan kuasa dalam industri AI. Beliau merujuk kepada "kekacauan dengan OpenAI" dan penyerapan bakat yang pantas oleh gergasi seperti Microsoft, seperti yang dicontohi oleh Mustafa Suleyman yang menyertai gergasi teknologi itu. "Syarikat ibarat AI Bodoh yang perlahan, yang terlalu mengoptimumkan pelbagai perkara yang pastinya bukan demi kepentingan terbaik manusia," beliau memberi amaran, menonjolkan bahaya yang wujud apabila "infrastruktur... seperti lapangan terbang, landasan kereta api, jalan raya masa depan" dikawal oleh beberapa entiti swasta dengan "fungsi objektif yang tidak jelas."

Kebimbangan utamanya berkisar tentang tadbir urus: "Siapa yang sepatutnya menguruskan teknologi yang mendorong manusia dan mengajar setiap kanak-kanak serta menguruskan kerajaan kita?" Mostaque percaya terdapat 'tempoh masa' setahun dua yang singkat untuk menubuhkan alternatif terdesentralisasi sebelum secara lalainya menjadi kawalan berpusat, atas ke bawah yang pasti akan dicari oleh kerajaan. Beliau mencabar naratif "AI Tuhan" yang dominan yang sering dikemukakan oleh beberapa organisasi terkemuka, lebih menyukai masa depan kecerdasan manusia yang dipertingkatkan berbanding AI yang direka untuk mengawal.

Key Insights:

• Risiko Penyatuan Kuasa: Pemusatan bakat AI, pengkomputeran, dan model yang pantas di bawah beberapa syarikat bernilai trilion dolar menimbulkan ancaman ketara kepada kepentingan global.
• Organisasi Amoral: Syarikat teknologi utama, yang dioptimumkan untuk penglibatan dan pengiklanan, boleh bertindak sebagai 'syarikat amoral' yang, walaupun dengan niat baik, mungkin tidak selaras dengan kepentingan terbaik manusia.
• Kekosongan Tadbir Urus: Kekurangan struktur tadbir urus yang jelas dan demokratik untuk teknologi AI yang berkuasa menjadikan masa depan terdedah kepada kuasa yang tidak terkawal dan kemungkinan hasil dystopian.

Mencarta Haluan Baharu: Visi untuk Kecerdasan Terdesentralisasi

Penyelesaian Emad Mostaque terhadap ancaman AI berpusat adalah penerapan radikal "kecerdasan terdesentralisasi," sebuah konsep yang jauh melangkaui perisian sumber terbuka semata-mata. Beliau mentakrifkannya melalui tiga komponen kritikal: "ketersediaan dan kebolehcapaian," memastikan setiap orang boleh mengakses teknologi; "tadbir urus," menetapkan siapa yang menguruskan data yang mengajar kanak-kanak atau mengendalikan kerajaan; dan "kemodularan," membina infrastruktur yang boleh dibangunkan oleh orang ramai, berbanding bergantung kepada perkhidmatan pusat yang bersifat monolitik.

Beliau membayangkan masa depan di mana "setiap negara memerlukan strategi AI," membina set data nasional yang mencerminkan budaya dan pengetahuan tempatan untuk melatih 'graduan' AI yang disesuaikan dan boleh diakses oleh semua rakyat. Pendekatan terdesentralisasi ini memanfaatkan kecekapan latihan AI yang semakin meningkat, meramalkan bahawa model seperti Llama 70B boleh dilatih dengan kos di bawah $10,000 dalam setahun dua. Mostaque melihat prinsip web3—bukan untuk token spekulatif, tetapi untuk identiti, atribusi, dan pengesahan data—sebagai 'sistem operasi manusia' asas untuk menyelaraskan rangkaian kecerdasan global ini, mewujudkan 'data bersama' untuk kebaikan kolektif.

Key Practices:

• Strategi AI Nasional: Kerajaan harus secara proaktif mengumpul set data nasional (data siaran, kurikulum, maklumat undang-undang) untuk melatih model AI tempatan.
• Ketelusan & Piawaian Data: Penting untuk memastikan kualiti dan penjajaran etika model, terutamanya model bahasa.
• Protokol Web3 untuk Penyelarasan: Menggunakan kekuatan web3 dalam identiti, atribusi, dan data yang boleh disahkan untuk mencipta infrastruktur terdesentralisasi yang kukuh bagi kecerdasan kolektif.

Masa Depan Demokrasi: Agensi atau Kawalan?

Taruhan peralihan ini, menurut Mostaque, tidak mungkin lebih tinggi. Beliau percaya AI secara asasnya akan membentuk semula demokrasi itu sendiri: "Saya tidak fikir demokrasi akan bertahan dengan teknologi ini dalam bentuknya sekarang, ia sama ada akan bertambah baik atau ia akan berakhir." Beliau menggambarkan dikotomi yang jelas: di satu pihak, masa depan "panoptik 1984 yang dipertingkatkan" didorong oleh AI yang sangat persuasif, di mana "ucapan yang dioptimumkan" dan manipulasi visual mewujudkan keadaan propaganda yang berterusan, licik. Di pihak lain, "demokrasi yang lebih baik" dipertingkatkan oleh AI yang membolehkan "perhimpunan rakyat, demokrasi konsultatif," dan keupayaan untuk "membongkar undang-undang" serta memperkasakan agensi individu.

Ini bukan tentang melindungi demokrasi demi kepentingannya sendiri, tetapi melindungi "kebebasan individu, kebebasan dan agensi." Beliau memperjuangkan "kecerdasan manusia yang dipertingkatkan" di mana setiap individu mempunyai pembantu AI peribadi, membentuk "kecerdasan kolektif" yang mencerminkan yang terbaik dari manusia. Matlamat utamanya adalah untuk membina "juara AI di setiap negara" dan "syarikat infrastruktur yang mengutamakan AI generatif untuk setiap sektor utama" untuk menyelaraskan rangkaian yang luas ini, memastikan teknologi berkuasa ini berfungsi untuk meningkatkan potensi setiap kanak-kanak, dan bukannya menjadi alat kawalan.

Key Insights:

• AI sebagai Pengganggu Demokrasi: Kuasa AI untuk menjana deepfake dan ucapan persuasif yang dioptimumkan mengancam demokrasi perwakilan, berpotensi membawa kepada peningkatan demokrasi langsung atau kawalan autoritarian yang belum pernah terjadi sebelumnya.
• Manipulasi Peribadi: AI boleh menyesuaikan maklumat dan kandungan persuasif kepada individu, memintas pertahanan semula jadi manusia dan membentuk kepercayaan pada skala yang belum pernah terjadi sebelumnya.
• Kecerdasan Kolektif sebagai AGI: Mostaque menganjurkan AGI yang muncul daripada kecerdasan manusia yang dipertingkatkan dan set data yang pelbagai, relevan budaya, memperkasakan individu berbanding "AI Tuhan" yang berpusat dan mengawal.

"Adakah kita mengawal teknologi atau adakah organisasi-organisasi ini mengawal teknologi yang mengawal kita" - Emad Mostaque