とのインタビュー Emad Mostaque

オープンソースAIに関する自身のビジョンでAbundance 360の聴衆を魅了した数日後、Stability AIの先見的創業者であるEmad Mostaqueは、CEOを辞任するという衝撃的な発表を行いました。この決定はテック界に波紋を広げ、多くの人が、画期的な企業のトップを務めるリーダーがその勢いの絶頂期に身を引く理由について疑問を抱きました。Peter H. Diamandisとの率直なインタビューで、MostaqueはAI時代における人類の未来に対する深い懸念からくる、切迫した思いと根本的な新しい方向性を明らかにしました。

創業者の使命：CEOという深淵から身を引く

多くの人にとってCEOという職務は野心の頂点ですが、Emad Mostaqueにとっては、それはより重要な使命から目をそらすものになっていました。彼は自身の経験を鮮やかな比喩でこう語りました。「Elon Muskはかつて、CEOであることを深淵を覗き込み、ガラスを噛み砕くようなものだと表現しました。」わずか2年前に最初の開発者を雇い、Stability AIをゼロから築き上げたMostaqueは、画像、音声、3Dといった「ほぼあらゆるタイプの最高のモデル」を生み出すよう会社を導き、3億回以上のダウンロードを達成しました。しかし、この驚異的な台頭は、世界のリーダーとの政策議論から急速な成長に伴う容赦ない要求まで、激しいプレッシャーももたらしました。

Mostaqueは、自身の強みが、HRや事業開発といった運営上の細々としたことよりも、ビジョンと戦略、そしてクリエイターや研究者がその潜在能力を最大限に発揮できるよう鼓舞することにあると悟りました。「誰もがそれぞれのスキルセットを持っています」と彼は述べ、自身は「システムの設計」に長けている一方で、日々の事業運営には他の人がより適していることを認めました。創業者にとっては感情的に負担の大きい決断でしたが、これにより大きな安堵感を得て、彼はAIの未来への最も大きな貢献だと信じることを追求する自由を得ました。

主な学び:

• 創業者 vs. CEO: 全ての創業者がCEOとして最適とは限らない。特に企業が規模を拡大し、運営上の要求が強まるにつれて。
• 指数関数的成長の課題: 前例のないスピードでディープテック企業を構築することには、ガバナンス、人材維持、グローバルな政策議論といった独自の課題が伴う。
• 「ガラスを噛み砕く」現実: CEOの役割、特に生成AIのような急速に進化する分野では、不確実性や予期せぬ問題との絶え間ない対峙が求められる。

中央集権化された力の危険性：AIの未来への警鐘

Mostaqueの退任は単なる個人的なキャリア転換ではなく、AI業界における権力集中に対する彼の危機感に根ざした、深く戦略的な動きでした。彼は「OpenAIの混乱」や、Mustafa Suleymanが巨大テック企業に加わったことに代表される、Microsoftのような大手企業による人材の急速な吸収を指摘しました。彼は「企業は、人類の最善の利益とは必ずしも合致しない様々なことを過度に最適化する、動きの遅い『愚かなAI』のようなものだ」と警鐘を鳴らし、「未来の空港、鉄道、道路のようなインフラ」が「目的関数が不明確な」少数の民間企業によって制御されることの内在的な危険性を強調しました。

彼の核となる懸念はガバナンスにありました。「人類を動かし、すべての子供たちを教え、政府を管理するテクノロジーを誰が管理すべきなのか？」Mostaqueは、政府が必然的に求めるであろうトップダウンの中央集権的支配がデフォルトになる前に、分散型の代替案を確立するための「1年か2年という狭い期間」があると信じています。彼は、一部の主要組織がしばしば提示する一般的な「AIの神」という物語に異議を唱え、制御のために設計された具現化されたAIではなく、増幅された人間の知性の未来を好みます。

主な洞察:

• 集中化のリスク: わずか数社の兆ドル企業のもとでAI人材、コンピューティング、モデルが急速に中央集権化されることは、世界の利益にとって重大な脅威となる。
• 道徳にとらわれない組織: エンゲージメントと広告のために最適化された大手テック企業は、善意にもかかわらず、人類の最善の利益とは一致しない「道徳にとらわれない企業」として機能しうる。
• ガバナンスの空白: 強力なAIテクノロジーに対する明確で民主的なガバナンス構造の欠如は、未来を無制限の権力と潜在的にディストピア的な結果に対して脆弱にする。

新たな航路を拓く：分散型知性のビジョン

Emad Mostaqueが中央集権型AIの脅威に対して提示する解決策は、「分散型知性」という根本的な概念の採用です。これは単なるオープンソースソフトウェアをはるかに超えるものです。彼はこれを3つの重要な要素で定義しています。「可用性とアクセシビリティ」として誰もが技術にアクセスできること、「ガバナンス」として子供たちを教えたり政府を運営したりするデータを誰が管理するのかを確立すること、そして「モジュール性」として、単一の中央サービスに依存するのではなく、人々がその上に構築できるインフラを構築することです。

彼は、「すべての国がAI戦略を必要とする」未来を描いています。そこでは、地域の文化と知識を反映した国家データセットを構築し、すべての市民にカスタマイズされ、アクセス可能なAI「卒業生」（モデル）を訓練します。この分散型アプローチは、AIトレーニングの効率向上を活用し、Llama 70Bのようなモデルが1、2年後には1万ドル未満で訓練できるようになると予測しています。Mostaqueは、投機的なトークンのためではなく、アイデンティティ、帰属、データ認証のためのWeb3の原則を、このグローバルな知性ネットワークを調整するための基礎的な「人間オペレーティングシステム」と見なし、集合的な利益のための「データの共有地」を創造しようとしています。

主要な実践:

• 国家AI戦略: 政府は、地域化されたAIモデルを訓練するために、国家データセット（放送データ、カリキュラム、法的情報）を積極的に収集すべきである。
• データ透明性と標準: モデル、特に言語モデルの品質と倫理的整合性を確保するために不可欠である。
• 協調のためのWeb3プロトコル: Web3のアイデンティティ、帰属、検証可能なデータにおける強みを活用し、集合的知性のための堅牢な分散型インフラを構築する。

民主主義の未来：主体性か、それとも支配か？

Mostaqueによれば、この変化の利害はこれ以上ないほど高いと言います。彼はAIが民主主義そのものを根本的に再構築すると信じており、「現在の形では、このテクノロジーによって民主主義は存続しないだろう。改善されるか、終わるかのどちらかだ」と述べています。彼は厳しい二分法を描き出しました。一方は、超説得力のあるAIによって推進される「ステロイドを投与した1984年的なパノプティコン」のような未来であり、そこでは「最適化された言論」と視覚的な操作が、絶え間なく巧妙なプロパガンダの状態を生み出します。他方は、AIによって強化された「より良い民主主義」であり、それは「市民集会、協議型民主主義」を可能にし、「法律を解体する」能力と個人の主体性を強化します。

これは民主主義そのものを守ることではなく、「個人の自由、そして主体性」を守ることです。彼は、各個人がパーソナライズされたAIヘルパーを持ち、人類の最善を反映する「集合知」を形成する「増幅された人間の知性」を提唱しています。彼の究極の目標は、この広大なネットワークを調整するために、「すべての国にAIチャンピオン」を、そして「すべての主要セクターに生成AIファーストのインフラ企業」を構築することであり、この強力なテクノロジーが、制御の道具になるのではなく、すべての子供たちの潜在能力を高めるために役立つことを保証することです。

主な洞察:

• 民主主義の破壊者としてのAI: ディープフェイクや最適化された説得力のある言論を生成するAIの力は、代議制民主主義を脅かし、強化された直接民主主義か、前例のない権威主義的支配のいずれかにつながる可能性がある。
• パーソナライズされた操作: AIは、自然な人間の防御を回避し、前例のない規模で信念を形成しながら、個人に合わせて情報や説得力のあるコンテンツを調整できる。
• 集合知としてのAGI: Mostaqueは、増幅された人間の知性と多様な文化的関連データセットから生まれるAGIを提唱しており、中央集権的で支配的な「AIの神」ではなく、個人を強化するものである。

「我々がテクノロジーを制御するのか、それともこれらの組織が、我々を制御するテクノロジーを制御するのか」 - Emad Mostaque