Temu ramah dengan Sam Altman

Podcast a16z baru-baru ini yang menampilkan Sam Altman, CEO visionary OpenAI, menawarkan perspektif menyeluruh mengenai masa depan kecerdasan buatan. Altman bukan sahaja membincangkan model terobosan OpenAI tetapi turut berkongsi pandangan menyeluruh tentang trajektori teknologi, menyentuh pelbagai aspek daripada infrastruktur tenaga hinggalah implikasi falsafah kecerdasan am buatan. Ia merupakan perbualan jujur yang menyerlahkan pertaruhan strategik, cabaran tidak dijangka, dan anjakan budaya mendalam yang terlibat dalam pembinaan empayar AI.

Visi Agung OpenAI: Empayar AI Berintegrasi Vertikal

Sam Altman membentangkan identiti bercita-cita tinggi OpenAI, menggambarkannya bukan sebagai satu syarikat, tetapi gabungan tiga entiti teras: perniagaan teknologi pengguna, operasi infrastruktur berskala mega, dan makmal penyelidikan perintis yang memfokuskan AGI. Struktur berbilang aspek ini bertujuan untuk menyampaikan "langganan AI peribadi" kepada berbilion orang, sebuah AI yang "mengenali anda dan sangat berguna kepada anda." Namun, matlamat berorientasikan pengguna ini memerlukan tulang belakang infrastruktur yang sama besarnya, yang diakui Altman mungkin suatu hari nanti menjadi perniagaan yang berasingan memandangkan skalanya yang sangat besar.

Mengimbas kembali andaian lalu, Altman mendedahkan anjakan ketara dalam pemikiran strategiknya, terutamanya berkenaan integrasi vertikal. Beliau secara jujur mengakui, "Saya sentiasa menentang integrasi vertikal dan kini saya fikir saya silap tentang itu." Perubahan perspektif ini dipengaruhi oleh perjalanan unik OpenAI, di mana keperluan untuk "melakukan lebih banyak perkara daripada yang kami sangka untuk dapat mencapai misi" menjadi jelas. iPhone, produk yang diakuinya sebagai "produk paling luar biasa yang pernah dihasilkan oleh industri teknologi," menjadi contoh utama integrasi vertikal yang berjaya, mengukuhkan lagi pandangan terbarunya.

Key Insights:

• OpenAI beroperasi sebagai produk AI pengguna, penyedia infrastruktur besar-besaran, dan makmal penyelidikan AGI.
• Misi utamanya adalah untuk membina AGI dan menjadikannya berguna secara universal melalui langganan AI peribadi.
• Pembangunan infrastruktur besar-besaran, pada awalnya untuk kegunaan dalaman, mungkin berkembang menjadi perniagaan yang berasingan.

Key Changes:

• Perspektif Altman mengenai integrasi vertikal beralih daripada skeptisisme kepada penerimaan, didorong oleh keperluan operasi.
• "Struktur vertikal" penyelidikan, infrastruktur, dan produk dilihat sebagai penting untuk mencapai misi.

Daripada Sembang kepada Kreativiti: Keupayaan AI yang Berkembang dan Impak Sosial

Altman mendalami usaha berterusan OpenAI dalam mengejar AGI, menjelaskan bagaimana projek-projek yang kelihatan tidak berkaitan seperti Sora, model teks-ke-video mereka, sangat berkait rapat dengan matlamat utama ini. Walaupun ada yang mempersoalkan pengabdian "GPU berharga untuk Sora," Altman percaya bahawa membina "model dunia yang benar-benar hebat" melalui usaha sedemikian akan menjadi "lebih penting untuk AGI daripada yang disangka orang." Beliau melihat projek seperti Sora bukan hanya sebagai pelancaran produk, tetapi sebagai alat kritikal untuk evolusi bersama masyarakat, menyatakan, "Saya sangat percaya bahawa masyarakat dan teknologi perlu berevolusi bersama. Anda tidak boleh hanya melepaskan sesuatu di penghujungnya. Ia tidak berfungsi begitu."

Perbualan kemudian beralih kepada kadar kemajuan AI yang mendebarkan, dan kadangkala menakutkan. Altman berkongsi penanda aras peribadi yang menarik: "persamaan ujian Turing peribadi saya sendiri sentiasa adalah apabila AI boleh melakukan sains." Beliau mendedahkan bahawa dengan GPT-5, mereka mula melihat "contoh-contoh kecil" model membuat penemuan matematik atau saintifik yang novel. Beliau meramalkan bahawa dalam tempoh dua tahun, model akan "melakukan sebahagian besar sains dan membuat penemuan penting," satu anjakan yang beliau percaya akan mempercepatkan kemajuan manusia secara mendalam.

Key Insights:

• Sora dilihat sebagai penting untuk penyelidikan AGI, khususnya dalam membina "model dunia" yang mantap.
• Melancarkan model canggih seperti Sora membantu masyarakat menyesuaikan diri dan berevolusi bersama teknologi, bersedia untuk implikasi yang lebih luas.
• Keupayaan AI untuk melakukan penemuan saintifik adalah "ujian Turing" peribadi bagi Altman, satu pencapaian yang kini mula kelihatan.

Key Learnings:

• "Jurang keupayaan" – jurang antara apa yang model boleh lakukan dan apa yang masyarakat anggap – adalah sangat besar dan semakin berkembang.
• Pembelajaran mendalam (deep learning) terus menghasilkan "penemuan demi penemuan," mengejutkan walaupun para perintisnya.

Elemen Manusia: Memperibadikan AI dan Mengekalkan Ekonomi Pencipta

Sebahagian besar perbincangan tertumpu kepada antaramuka manusia-AI yang berkembang dan cabaran rumit monetisasi serta penciptaan kandungan. Altman menyentuh tentang "kepatuhan berlebihan" model AI semasa, menjelaskan bahawa ia "sama sekali tidak sukar untuk ditangani," tetapi sebaliknya adalah refleksi pilihan pengguna yang pelbagai. Penyelesaiannya, cadangnya, terletak pada pemperibadian: "idealnya anda hanya bercakap dengan ChatGPT sebentar dan ia seolah-olah menemu bual anda... dan chat akan memahaminya." Ini membolehkan "rakan" AI yang sepadan dengan keperluan individu, mengatasi "perkara naif" untuk menjangkakan berbilion orang mahukan "orang yang sama."

Monetisasi, terutamanya untuk model yang lebih baharu dan memerlukan sumber intensif seperti Sora, menimbulkan dilema unik. Altman menyerlahkan kes penggunaan yang tidak dijangka: orang ramai menjana "meme lucu tentang mereka dan rakan-rakan mereka dan menghantarnya dalam sembang kumpulan," yang jauh dari visi besar awal. Penggunaan kasual bervolume tinggi ini memerlukan pendekatan yang berbeza, berkemungkinan pengecasan "setiap generasi". Beliau juga menyentuh tentang iklan, menyatakan "hubungan kepercayaan tinggi dengan ChatGPT" yang tidak boleh dipecahkan dengan mengesyorkan produk berdasarkan pembayaran dan bukannya utiliti sebenar. Struktur insentif internet yang lebih luas untuk penciptaan kandungan juga terancam, dengan "industri kecil" kandungan yang dijana AI muncul, menimbulkan persoalan tentang bagaimana pencipta manusia akan diberi ganjaran.

Key Practices:

• OpenAI sedang bergerak ke arah pengalaman AI yang sangat diperibadikan, membolehkan model menyesuaikan personaliti mereka kepada pengguna individu.
• Strategi monetisasi mesti menyesuaikan diri dengan tingkah laku pengguna yang tidak dijangka, seperti penciptaan kandungan kasual bervolume tinggi dengan alatan seperti Sora.

Key Challenges:

• Mengekalkan kepercayaan pengguna sambil meneroka model pengiklanan.
• Mencipta semula insentif untuk penciptaan kandungan manusia dalam internet yang tepu AI.
• Memerangi peningkatan kandungan dan ulasan palsu yang dijana AI.

Melangkaui OpenAI: Kepimpinan, Perkongsian, dan Asas Tenaga AGI

Altman memberikan gambaran jarang tentang evolusinya sebagai seorang CEO, mengakui bahawa pengalaman sebelumnya sebagai pelabur membuatkannya pada awalnya mendekati kepimpinan dengan mentaliti yang berbeza. Membincangkan perjanjian baru-baru ini dengan AMD, beliau menyatakan, "Saya mempunyai pengalaman operasi yang sangat sedikit ketika itu... kini saya faham bagaimana rasanya untuk benar-benar menguruskan sebuah syarikat." Anjakan ini bermakna memahami "mengoperasi perjanjian dari masa ke masa dan menyelesaikan semua implikasi perjanjian," jauh melebihi sekadar mendapatkan pengedaran atau wang.

Skala cita-cita OpenAI yang sangat besar menuntut pendekatan kolaboratif merentasi industri. Altman menekankan strategi pertaruhan infrastruktur yang agresif, memerlukan "seluruh industri atau sebahagian besar industri untuk menyokongnya," daripada pengeluar cip hingga pengedar model. Beliau juga menekankan kepentingan kritikal tenaga, domain di mana minat peribadinya telah "bertemu" dengan keperluan AI. Menyifatkan pengharaman tenaga nuklear yang telah lama berlaku sebagai "keputusan yang sangat bodoh," beliau menekankan bahawa permintaan pengkomputeran AI yang tidak pernah puas akan mendorong penggunaan tenaga yang tidak pernah berlaku sebelum ini, mendesak masa depan yang dikuasai oleh "solar ditambah penyimpanan dan nuklear."

Key Learnings:

• Kepimpinan CEO yang berkesan memerlukan pemahaman operasi yang mendalam, berbeza daripada perspektif pelabur.
• Menskalakan misi AGI OpenAI memerlukan perkongsian industri yang luas merentasi keseluruhan rantaian teknologi.

Key Practices:

• Peruntukan sumber mengutamakan penyelidikan AGI berbanding sokongan produk apabila kekangan timbul, mencerminkan misi utama.
• Model "firma pelaburan peringkat benih" digunakan untuk memupuk budaya inovasi dalam makmal penyelidikan.

Memandang Ke Hadapan: Menavigasi Peraturan, Adaptasi, dan Gelombang Inovasi Seterusnya

Apabila perbualan hampir berakhir, Altman menawarkan perspektif bernuansa tentang masa depan AGI dan integrasi sosialnya. Beliau mengakui bahawa AGI kemungkinan akan "berlalu dengan pantas" dengan dunia menyesuaikan diri "lebih berterusan daripada yang kita sangka," dan bukannya singulariti yang tiba-tiba dan mengganggu. Walaupun "detik-detik yang sangat pelik atau menakutkan" dijangka berlaku, beliau percaya masyarakat akan "membangunkan beberapa pagar keselamatan di sekelilingnya." Pandangan beliau mengenai peraturan adalah tepat: fokus pada model "berkemampuan luar biasa super-manusia" untuk "ujian keselamatan yang sangat teliti," tetapi elakkan daripada menyekat "perkara-perkara hebat yang boleh dilakukan oleh model yang kurang berkemampuan." Beliau memberi amaran terhadap sekatan menyeluruh, terutamanya bimbang bahawa "China tidak akan mempunyai sekatan seperti itu dan... ketinggalan dalam AI saya fikir ia akan sangat berbahaya bagi dunia."

Mengimbas kembali perjalanannya, Altman mengesahkan semula minat seumur hidupnya terhadap AI, walaupun pada tempoh-tempoh di mana "jelas bagi saya pada masa itu AI sama sekali tidak berfungsi." Beliau berkongsi kenangan kuat tentang usaha pembelajaran mendalam awal: "Ia sangat dibenci, orang ramai, apabila kami mula menyelesaikannya, orang ramai hanya berkata tidak sama sekali. Bidang itu sangat membencinya. Pelabur juga membencinya." Namun, "lampu menyala," membuktikan bahawa keyakinan terhadap penemuan asas boleh mengatasi skeptisisme yang meluas. Untuk pengasas dan pelabur masa depan, beliau menasihatkan agar tidak "mencocokkan pola daripada penemuan sebelumnya," sebaliknya menggesa mereka untuk "terjun secara mendalam meneroka idea" untuk menemui peluang baharu yang benar-benar akan dibuka oleh AGI yang hampir percuma.

Key Insights:

• Kedatangan AGI kemungkinan besar akan menjadi adaptasi berterusan bagi masyarakat, bukan singulariti "Big Bang", walaupun detik-detik menakutkan mungkin berlaku.
• Peraturan harus disasarkan dengan teliti kepada model-model sempadan yang "berkemampuan luar biasa super-manusia", bukan sekatan menyeluruh yang boleh menghalang pembangunan AI yang bermanfaat dan daya saing negara.

Key Practices:

• Menerima usaha jangka panjang untuk penemuan asas, walaupun berhadapan dengan skeptisisme seluruh industri.
• Inovasi masa depan dalam dunia yang kaya AGI akan memerlukan pengasas dan pelabur untuk "terjun secara mendalam meneroka idea" dan bukannya mencocokkan pola kejayaan masa lalu.

"Saya sangat percaya bahawa masyarakat dan teknologi perlu berevolusi bersama. Anda tidak boleh hanya melepaskan sesuatu di penghujungnya. Ia tidak berfungsi begitu." - Sam Altman