Panayam kay Emad Mostaque

Ilang araw lamang matapos niyang pahangain ang madla ng Abundance 360 sa kanyang pananaw para sa open-source AI, nagbigay si Emad Mostaque, ang visionary founder ng Stability AI, ng isang mahalagang anunsyo: bababa na siya bilang CEO. Nagdulot ng malaking usapan ang desisyon sa mundo ng teknolohiya, na nag-iwan sa marami na nagtataka kung bakit ang isang pinuno sa pamamahala ng isang makabagong kumpanya ay aalis sa kasagsagan ng tagumpay nito. Sa isang prangkang panayam kay Peter H. Diamandis, ibinunyag ni Mostaque ang isang matinding pagmamadali at isang radikal na bagong direksyon na dulot ng kanyang malalim na pagkabahala para sa kinabukasan ng sangkatauhan sa panahon ng AI.

Ang Tawag ng Founder: Pag-alis Mula sa Kalaliman ng CEO

Para sa marami, ang pagiging CEO ay ang rurok ng ambisyon, ngunit para kay Emad Mostaque, ang tungkulin ay naging balakid sa isang mas mahalagang misyon. Inilarawan niya ang kanyang karanasan sa isang malinaw na analohiya: "Minsan ay inilarawan ni Elon Musk ang pagiging CEO bilang pagtitig sa bangin at pagnguya ng salamin." Matapos itatag ang Stability AI mula sa wala, at kunin ang una nitong developer dalawang taon lang ang nakakaraan, pinangunahan ni Mostaque ang kumpanya upang lumikha ng "pinakamahusay na modelo sa halos lahat ng uri"—larawan, audio, 3D—na umabot sa mahigit 300 milyong download. Ngunit, ang mabilis na pag-angat na ito ay nagdala rin ng matinding panggigipit, mula sa mga debate sa patakaran kasama ang mga pinuno ng mundo hanggang sa walang tigil na pangangailangan ng mabilis na paglago.

Napagtanto ni Mostaque na ang kanyang lakas ay nasa pananaw at estratehiya, sa pagbibigay inspirasyon sa mga malikhain at mananaliksik upang maabot ang kanilang buong potensyal, sa halip na ang detalyadong operasyon ng HR at business development. "Sa tingin ko, may kanya-kanya tayong kakayahan," sabi niya, kinikilala na bagama't siya ay bihasa sa "pagdidisenyo ng mga sistema," mas akma ang iba para sa pang-araw-araw na operasyon ng negosyo. Ang desisyon, bagama't emosyonal na mabigat para sa isang founder, ay nagdulot ng malaking gaan ng loob, na nagpalaya sa kanya upang ipagpatuloy ang sa tingin niya ay kanyang pinakamabisang ambag sa kinabukasan ng AI.

Mga Mahalagang Aral:

• Founder vs. CEO: Hindi lahat ng founder ay pinakaangkop na manatiling CEO, lalo na habang lumalaki ang mga kumpanya at tumitindi ang mga pangangailangan sa operasyon.
• Mga Hamon ng Mabilis na Paglago: Ang pagbuo ng isang deep tech na kumpanya sa isang walang katulad na bilis ay may kaakibat na natatanging hamon, kabilang ang pamamahala, pagpapanatili ng talento, at mga debate sa pandaigdigang patakaran.
• Ang Realidad ng "Pagnguya ng Salamin": Ang tungkulin ng CEO, partikular sa mabilis na umuunlad na larangan tulad ng generative AI, ay kinasasangkutan ng patuloy na pagharap sa kawalan ng katiyakan at hindi inaasahang problema.

Ang Panganib ng Sentralisadong Kapangyarihan: Isang Panawagan para sa Kinabukasan ng AI

Ang pag-alis ni Mostaque ay hindi lamang isang personal na pagbabago sa karera; ito ay isang malalim na estratehikong hakbang na nagmula sa kanyang pangamba sa konsolidasyon ng kapangyarihan sa loob ng industriya ng AI. Itinuro niya ang "kaguluhan sa OpenAI" at ang mabilis na pagsipsip ng talento ng mga higante tulad ng Microsoft, na ipinapakita ng pagsali ni Mustafa Suleyman sa tech behemoth. "Ang mga kumpanya ay parang mabagal na Dumb AIs na labis na nag-o-optimize para sa iba't ibang bagay na tiyak na hindi para sa pinakamabuting interes ng sangkatauhan," paalala niya, binibigyang-diin ang likas na panganib kapag ang "imprastraktura... tulad ng mga paliparan, mga riles, mga kalsada ng hinaharap" ay kinokontrol ng iilang pribadong entidad na may "malabong layunin."

Ang kanyang pangunahing pagkabahala ay umiikot sa pamamahala: "Sino ang dapat mamahala sa teknolohiyang nagtutulak sa sangkatauhan, nagtuturo sa bawat bata, at namamahala sa ating gobyerno?" Naniniwala si Mostaque na mayroong limitadong "bintana ng isang taon o dalawa" upang magtatag ng isang desentralisadong alternatibo bago maging default ang isang top-down, sentralisadong kontrol na tiyak na hahanapin ng mga gobyerno. Hinahamon niya ang umiiral na naratibo ng "AI God" na madalas na inilalatag ng ilang nangungunang organisasyon, mas pinipili ang isang hinaharap ng pinalakas na katalinuhan ng tao sa halip na isang AI na dinisenyo upang kontrolin.

Mga Mahalagang Kaalaman:

• Panganib ng Konsolidasyon: Ang mabilis na sentralisasyon ng talento, compute, at modelo ng AI sa ilalim ng iilang kumpanyang may trilyong dolyar ay nagdudulot ng malaking banta sa pandaigdigang interes.
• Mga Organisasyong Amoral: Ang mga pangunahing kumpanya ng tech, na na-optimize para sa engagement at advertising, ay maaaring kumilos bilang "mga kumpanyang walang moralidad" na, sa kabila ng magandang intensyon, ay maaaring hindi akma sa pinakamabuting interes ng sangkatauhan.
• Kakulangan sa Pamamahala: Ang kakulangan ng malinaw at demokratikong istruktura ng pamamahala para sa makapangyarihang teknolohiya ng AI ay nag-iiwan sa hinaharap na bulnerable sa walang kontrol na kapangyarihan at posibleng dystopian na resulta.

Pagbalangkas ng Bagong Direksyon: Ang Pananaw para sa Desentralisadong Katalinuhan

Ang solusyon ni Emad Mostaque sa mga banta ng sentralisadong AI ay isang radikal na pagtanggap sa "desentralisadong katalinuhan," isang konsepto na higit pa sa simpleng open-source na software. Tinutukoy niya ito sa pamamagitan ng tatlong kritikal na bahagi: "pagiging available at madaling ma-access," tinitiyak na lahat ay makaka-access sa teknolohiya; "pamamahala," pagtatatag kung sino ang mamamahala sa data na nagtuturo sa mga bata o nagpapatakbo ng mga gobyerno; at "modularity," pagbuo ng isang imprastraktura na maaaring pagbasehan ng mga tao, sa halip na umasa sa monolithic, sentralisadong serbisyo.

Iniimagine niya ang isang hinaharap kung saan "bawat bansa ay nangangailangan ng estratehiya sa AI," pagbuo ng pambansang data set na sumasalamin sa lokal na kultura at kaalaman upang sanayin ang mga AI "graduates" na na-customize at accessible sa lahat ng mamamayan. Sinasamantala ng desentralisadong pamamaraang ito ang lumalaking kahusayan ng pagsasanay ng AI, hinuhulaan na ang mga modelo tulad ng Llama 70B ay maaaring mas mababa sa $10,000 ang gastos sa pagsasanay sa loob ng isa o dalawang taon. Nakikita ni Mostaque ang mga prinsipyo ng web3—hindi para sa speculative na tokens, kundi para sa identidad, atribusyon, at data attestation—bilang ang pundasyong "human operating system" upang i-coordinate ang pandaigdigang network ng katalinuhang ito, lumilikha ng isang "commons of data" para sa kolektibong kapakinabangan.

Mga Mahalagang Kasanayan:

• Mga Pambansang Estratehiya sa AI: Ang mga gobyerno ay dapat aktibong mangolekta ng pambansang data set (data ng broadcast, kurikula, impormasyon sa batas) upang sanayin ang mga lokal na modelo ng AI.
• Transparency at Pamantayan ng Data: Mahalaga para sa pagtiyak ng kalidad at etikal na pagkakahanay ng mga modelo, lalo na ang mga modelo ng wika.
• Mga Protokol ng Web3 para sa Koordinasyon: Paggamit ng mga lakas ng web3 sa identidad, atribusyon, at mapapatunayang data upang lumikha ng isang matatag, desentralisadong imprastraktura para sa kolektibong katalinuhan.

Ang Kinabukasan ng Demokrasya: Ahensya o Kontrol?

Ang nakataya sa pagbabagong ito, ayon kay Mostaque, ay hindi na mas tataas pa. Naniniwala siya na babaguhin nang husto ng AI ang mismong demokrasya: "Sa tingin ko, hindi mabubuhay ang demokrasya sa teknolohiyang ito sa kasalukuyan nitong anyo; ito ay mapapabuti o magwawakas." Ipininta niya ang isang malinaw na dikotomya: sa isang banda, isang hinaharap na "1984 on steroids panoptikal" na pinapagana ng AI na lubhang nakakakumbinsi, kung saan ang "na-optimize na pananalita" at biswal na manipulasyon ay lumilikha ng isang estado ng patuloy, mapanlinlang na propaganda. Sa kabilang banda, isang "mas mabuting demokrasya" na pinahusay ng AI na nagpapahintulot sa "mga pagpupulong ng mamamayan, consultative na demokrasya," at ang kakayahang "paghihimay ng mga batas" at bigyan ng kapangyarihan ang indibidwal na ahensya.

Ito ay hindi tungkol sa pagprotekta sa demokrasya para sa sarili nitong kapakanan, kundi sa pagprotekta sa "kalayaan, karapatan, at ahensya ng indibidwal." Isinusulong niya ang isang "pinalakas na katalinuhan ng tao" kung saan ang bawat indibidwal ay may personal na AI helper, na bumubuo ng isang "kolektibong katalinuhan" na sumasalamin sa pinakamahusay na bahagi ng sangkatauhan. Ang kanyang pangunahing layunin ay bumuo ng isang "AI champion sa bawat bansa" at isang "generative AI first na kumpanya ng imprastraktura para sa bawat pangunahing sektor" upang i-coordinate ang malawak na network na ito, tinitiyak na ang makapangyarihang teknolohiyang ito ay nagsisilbi upang itaguyod ang potensyal ng bawat bata, sa halip na maging isang kasangkapan ng kontrol.

Mga Mahalagang Kaalaman:

• AI bilang Disruptor ng Demokrasya: Ang kapangyarihan ng AI na lumikha ng deepfakes at na-optimize, nakakakumbinsing pananalita ay nagbabanta sa representatibong demokrasya, na posibleng humantong sa pinahusay na direktang demokrasya o walang katulad na kontrol ng awtoritaryan.
• Personalized Manipulation: Maaaring iayon ng AI ang impormasyon at nakakakumbinsing nilalaman sa mga indibidwal, na lumalampas sa natural na depensa ng tao at humuhubog sa mga paniniwala sa isang walang katulad na saklaw.
• Collective Intelligence bilang AGI: Isinusulong ni Mostaque ang isang AGI na nagmumula sa pinalakas na katalinuhan ng tao at iba't ibang, culturally relevant na data set, na nagbibigay kapangyarihan sa mga indibidwal sa halip na isang sentralisado, kumokontrol na "AI God."

"tayo ba ang kumokontrol sa teknolohiya o kinokontrol ng mga organisasyong ito ang teknolohiyang kumokontrol sa atin" - Emad Mostaque