Wawancara dengan Emad Mostaque

Beberapa hari setelah memukau audiens Abundance 360 dengan visinya tentang AI open-source, Emad Mostaque, pendiri visioner Stability AI, membuat pengumuman mengejutkan: dia mengundurkan diri sebagai CEO. Keputusan itu menimbulkan riak di dunia teknologi, membuat banyak orang bertanya-tanya mengapa seorang pemimpin di pucuk pimpinan perusahaan inovatif seperti itu akan pergi di puncak momentumnya. Dalam wawancara terus terang dengan Peter H. Diamandis, Mostaque menyibak tabir, mengungkapkan urgensi yang mendalam dan arah baru yang radikal didorong oleh kekhawatiran mendalamnya akan masa depan kemanusiaan di era AI.

Panggilan Sang Pendiri: Mundur dari Jurang CEO

Bagi banyak orang, menjadi seorang CEO adalah puncak ambisi, tetapi bagi Emad Mostaque, peran tersebut telah menjadi gangguan dari misi yang lebih krusial. Dia menggambarkan pengalamannya dengan analogi yang gamblang: "Elon Musk pernah mengkarakterisasi menjadi CEO sebagai menatap jurang dan mengunyah kaca." Setelah membangun Stability AI dari nol, mempekerjakan developer pertamanya hanya dua tahun sebelumnya, Mostaque telah mengarahkan perusahaan untuk menciptakan "model terbaik dari hampir setiap jenis" – gambar, audio, 3D – mencapai lebih dari 300 juta unduhan. Namun, kenaikan pesat ini juga membawa tekanan yang berat, mulai dari debat kebijakan dengan pemimpin global hingga tuntutan tak henti dari pertumbuhan yang cepat.

Mostaque menyadari bahwa kekuatannya terletak pada visi dan strategi, dalam menginspirasi para kreatif dan peneliti untuk mencapai potensi penuh mereka, daripada seluk-beluk operasional HR dan pengembangan bisnis. "Saya pikir setiap orang memiliki keahliannya masing-masing," ia merefleksikan, mengakui bahwa meskipun ia mahir dalam "merancang sistem," orang lain lebih cocok untuk menjalankan bisnis sehari-hari. Keputusan tersebut, meskipun melelahkan secara emosional bagi seorang pendiri, membawa rasa lega yang signifikan, membebaskannya untuk mengejar apa yang diyakininya sebagai kontribusi paling berpengaruh bagi masa depan AI.

Pembelajaran Kunci:

• Pendiri vs. CEO: Tidak semua pendiri paling cocok untuk tetap menjadi CEO, terutama saat perusahaan berkembang dan tuntutan operasional meningkat.
• Tantangan Pertumbuhan Eksponensial: Membangun perusahaan deep tech dengan kecepatan yang belum pernah terjadi sebelumnya datang dengan tantangan unik, termasuk tata kelola, retensi talenta, dan debat kebijakan global.
• Realitas "Mengunyah Kaca": Peran CEO, terutama di bidang yang berkembang pesat seperti AI generatif, melibatkan konfrontasi terus-menerus dengan ketidakpastian dan masalah tak terduga.

Bahaya Kekuatan Terpusat: Panggilan Peringatan untuk Masa Depan AI

Kepergian Mostaque bukan sekadar perubahan arah karier pribadi; itu adalah langkah yang sangat strategis berakar pada kekhawatirannya atas konsolidasi kekuatan dalam industri AI. Dia menunjuk pada "gejolak dengan OpenAI" dan penyerapan talenta yang cepat oleh raksasa seperti Microsoft, yang dicontohkan oleh bergabungnya Mustafa Suleyman dengan raksasa teknologi tersebut. "Perusahaan itu seperti AI bodoh yang lambat yang terlalu mengoptimalkan berbagai hal yang jelas tidak untuk kepentingan terbaik kemanusiaan," ia memperingatkan, menyoroti bahaya yang melekat ketika "infrastruktur... seperti bandara, kereta api, jalan masa depan" dikendalikan oleh beberapa entitas swasta dengan "fungsi tujuan yang tidak jelas."

Kekhawatiran utamanya berpusat pada tata kelola: "Siapa yang harus mengelola teknologi yang menggerakkan kemanusiaan dan mengajar setiap anak serta mengelola pemerintahan kita?" Mostaque percaya ada 'jendela' sempit satu atau dua tahun untuk membangun alternatif yang terdesentralisasi sebelum default-nya menjadi kontrol terpusat dari atas ke bawah yang pasti akan dicari oleh pemerintah. Dia menantang narasi "Dewa AI" yang berlaku yang sering diajukan oleh beberapa organisasi terkemuka, lebih memilih masa depan kecerdasan manusia yang diperkuat daripada AI terwujud yang dirancang untuk mengendalikan.

Wawasan Utama:

• Risiko Konsolidasi: Sentralisasi cepat talenta AI, komputasi, dan model di bawah beberapa perusahaan bernilai triliunan dolar menimbulkan ancaman signifikan bagi kepentingan global.
• Organisasi Amoral: Perusahaan teknologi besar, yang dioptimalkan untuk keterlibatan dan periklanan, dapat bertindak sebagai "perusahaan amoral" yang, meskipun memiliki niat baik, mungkin tidak selaras dengan kepentingan terbaik kemanusiaan.
• Kekosongan Tata Kelola: Kurangnya struktur tata kelola yang jelas dan demokratis untuk teknologi AI yang kuat membuat masa depan rentan terhadap kekuasaan tanpa batas dan hasil yang berpotensi dystopian.

Menentukan Arah Baru: Visi untuk Kecerdasan Terdesentralisasi

Solusi Emad Mostaque terhadap ancaman AI terpusat adalah dukungan radikal terhadap "kecerdasan terdesentralisasi," sebuah konsep yang jauh melampaui sekadar perangkat lunak open-source. Dia mendefinisikannya dengan tiga komponen penting: "ketersediaan dan aksesibilitas," memastikan setiap orang dapat mengakses teknologi; "tata kelola," menetapkan siapa yang mengelola data yang mengajar anak-anak atau menjalankan pemerintahan; dan "modularitas," membangun infrastruktur yang dapat dikembangkan oleh orang-orang, daripada bergantung pada layanan sentral yang monolitik.

Dia membayangkan masa depan di mana "setiap negara membutuhkan strategi AI," membangun set data nasional yang mencerminkan budaya dan pengetahuan lokal untuk melatih 'lulusan' AI yang disesuaikan dan dapat diakses oleh semua warga. Pendekatan terdesentralisasi ini memanfaatkan efisiensi pelatihan AI yang terus meningkat, memprediksi bahwa model seperti Llama 70B bisa menelan biaya di bawah $10.000 untuk dilatih dalam satu atau dua tahun. Mostaque melihat prinsip-prinsip web3—bukan untuk token spekulatif, tetapi untuk identitas, atribusi, dan atestasi data—sebagai "sistem operasi manusia" yang mendasar untuk mengkoordinasikan jaringan kecerdasan global ini, menciptakan "data bersama" untuk kebaikan kolektif.

Praktik Kunci:

• Strategi AI Nasional: Pemerintah harus secara proaktif mengumpulkan set data nasional (data siaran, kurikulum, informasi hukum) untuk melatih model AI yang terlokalisasi.
• Transparansi & Standar Data: Penting untuk memastikan kualitas dan keselarasan etika model, terutama model bahasa.
• Protokol Web3 untuk Koordinasi: Memanfaatkan kekuatan web3 dalam identitas, atribusi, dan data yang dapat diverifikasi untuk menciptakan infrastruktur yang kuat dan terdesentralisasi untuk kecerdasan kolektif.

Masa Depan Demokrasi: Otonomi atau Kendali?

Taruhan dari pergeseran ini, menurut Mostaque, sangat tinggi. Dia percaya AI secara fundamental akan membentuk kembali demokrasi itu sendiri: "Saya rasa demokrasi tidak akan bertahan dengan teknologi ini dalam bentuknya yang sekarang; ia akan membaik atau berakhir." Dia menggambarkan dikotomi yang mencolok: di satu sisi, masa depan 'panoptik 1984 yang diperkuat' yang didorong oleh AI yang sangat persuasif, di mana "pidato yang dioptimalkan" dan manipulasi visual menciptakan keadaan propaganda yang konstan dan licik. Di sisi lain, "demokrasi yang lebih baik" yang ditingkatkan oleh AI yang memungkinkan "majelis warga, demokrasi konsultatif," dan kemampuan untuk "membongkar hukum" serta memberdayakan otonomi individu.

Ini bukan tentang melindungi demokrasi demi kepentingannya sendiri, tetapi menjaga "kebebasan individu, kemerdekaan, dan otonomi." Dia menganjurkan "kecerdasan manusia yang diperkuat" di mana setiap individu memiliki asisten AI yang dipersonalisasi, membentuk "kecerdasan kolektif" yang mencerminkan yang terbaik dari kemanusiaan. Tujuan utamanya adalah membangun "juara AI di setiap negara" dan "perusahaan infrastruktur yang mengutamakan AI generatif untuk setiap sektor utama" untuk mengkoordinasikan jaringan luas ini, memastikan bahwa teknologi yang kuat ini berfungsi untuk mengangkat potensi setiap anak, daripada menjadi alat kendali.

Wawasan Utama:

• AI sebagai Pengganggu Demokrasi: Kekuatan AI untuk menghasilkan deepfake dan pidato yang dioptimalkan serta persuasif mengancam demokrasi representatif, berpotensi mengarah pada peningkatan demokrasi langsung atau kontrol otoriter yang belum pernah terjadi sebelumnya.
• Manipulasi yang Dipersonalisasi: AI dapat menyesuaikan informasi dan konten persuasif untuk individu, melewati pertahanan alami manusia dan membentuk keyakinan dalam skala yang belum pernah terjadi sebelumnya.
• Kecerdasan Kolektif sebagai AGI: Mostaque menganjurkan AGI yang muncul dari kecerdasan manusia yang diperkuat dan set data yang beragam, relevan secara budaya, memberdayakan individu daripada 'Dewa AI' yang terpusat dan mengendalikan.

"apakah kita mengendalikan teknologi ataukah organisasi-organisasi ini yang mengendalikan teknologi yang mengendalikan kita" - Emad Mostaque