Интервью с Emad Mostaque

Спустя всего несколько дней после того, как Эмад Мостак, дальновидный основатель Stability AI, покорил аудиторию Abundance 360 своим видением ИИ с открытым исходным кодом, он сделал ошеломительное заявление: уходит с поста CEO. Это решение вызвало волну обсуждений в мире технологий, заставив многих задаться вопросом, почему лидер, стоящий во главе такой прорывной компании, уходит на пике её динамики. В откровенном интервью с Питером Х. Диамандисом Мостак приоткрыл завесу, раскрыв острую необходимость и радикально новое направление, обусловленное его глубокой обеспокоенностью будущим человечества в эпоху ИИ.

Призвание основателя: Прочь от бездны CEO

Для многих быть CEO – это вершина амбиций, но для Эмада Мостака эта роль стала отвлекать от более важной миссии. Он описал свой опыт яркой аналогией: «Илон Маск однажды охарактеризовал работу CEO как «вглядывание в бездну и жевание стекла»». Построив Stability AI с нуля, наняв первого разработчика всего за два года до этого, Мостак направил компанию на создание «лучших моделей почти всех типов» — изображений, аудио, 3D — достигнув более 300 миллионов загрузок. Тем не менее, этот стремительный взлет также принес сильное давление, от политических дебатов с мировыми лидерами до безжалостных требований быстрого роста.

Мостак осознал, что его сильные стороны заключаются в видении и стратегии, в вдохновлении творческих людей и исследователей на полную реализацию их потенциала, а не в операционной рутине управления персоналом и развития бизнеса. «Я думаю, у каждого свои сильные стороны», — размышлял он, признавая, что, хотя он был искусен в «разработке систем», другие лучше подходили для ведения повседневных дел компании. Решение, хотя и было эмоционально обременительным для основателя, принесло значительное облегчение, освободив его для того, чтобы внести, как он считает, самый эффективный вклад в будущее ИИ.

Ключевые выводы:

• Основатель против CEO: Не все основатели лучше всего подходят для того, чтобы оставаться CEO, особенно по мере масштабирования компаний и увеличения операционных нагрузок.
• Вызовы экспоненциального роста: Создание deep tech компании с беспрецедентной скоростью сопряжено с уникальными трудностями, включая управление, удержание талантов и глобальные политические дебаты.
• Реальность «жевания стекла»: Роль CEO, особенно в быстро развивающихся областях, таких как генеративный ИИ, включает постоянное столкновение с неопределенностью и непредвиденными проблемами.

Опасность централизованной власти: Тревожный звонок для будущего ИИ

Уход Мостака был не просто личным карьерным поворотом; это был глубоко стратегический шаг, обусловленный его тревогой по поводу консолидации власти в индустрии ИИ. Он указал на «турбулентность вокруг OpenAI» и быстрое поглощение талантов такими гигантами, как Microsoft, ярким примером чего стало присоединение Мустафы Сулеймана к этому технологическому гиганту. «Компании подобны медленным 'глупым ИИ', которые чрезмерно оптимизируют различные аспекты, что, безусловно, не в лучших интересах человечества», — предостерег он, подчеркивая неотъемлемую опасность, когда «инфраструктура… подобная аэропортам, железным дорогам, дорогам будущего» оказывается под контролем нескольких частных организаций с «неясными целевыми функциями».

Его основная обеспокоенность заключалась в управлении: «Кто должен управлять технологиями, которые движут человечеством, обучают каждого ребенка и управляют нашим правительством?» Мостак считает, что есть узкое «окно в год или два», чтобы создать децентрализованную альтернативу, прежде чем по умолчанию установится нисходящий, централизованный контроль, к которому правительства неизбежно будут стремиться. Он оспаривает доминирующий нарратив «ИИ-Бога», часто выдвигаемый некоторыми ведущими организациями, предпочитая будущее усиленного человеческого интеллекта, а не воплощенного ИИ, предназначенного для контроля.

Ключевые выводы:

• Риск консолидации: Быстрая централизация ИИ-талантов, compute и моделей под эгидой нескольких компаний-триллионеров представляет значительную угрозу глобальным интересам.
• Аморальные организации: Крупные технологические компании, оптимизированные для вовлечения пользователей и рекламы, могут действовать как «аморальные компании», которые, несмотря на благие намерения, могут не соответствовать лучшим интересам человечества.
• Вакуум управления: Отсутствие четких, демократических структур управления для мощных технологий ИИ делает будущее уязвимым для бесконтрольной власти и потенциально антиутопических результатов.

Прокладывая новый курс: Видение децентрализованного интеллекта

Решение Эмада Мостака угрозам централизованного ИИ — это радикальное принятие «децентрализованного интеллекта», концепции, выходящей далеко за рамки простого программного обеспечения с открытым исходным кодом. Он определяет её тремя критически важными компонентами: «доступность и общедоступность», гарантируя, что каждый сможет получить доступ к технологии; «управление», определяющее, кто управляет данными, которые обучают детей или управляют правительствами; и «модульность», создание инфраструктуры, на которой люди могут строить, а не полагаться на монолитные центральные сервисы.

Он видит будущее, в котором «каждой стране нужна стратегия в области ИИ», создавая национальные наборы данных, отражающие местную культуру и знания, для обучения ИИ-моделей, которые будут адаптированы и доступны всем гражданам. Этот децентрализованный подход использует растущую эффективность обучения ИИ, прогнозируя, что обучение таких моделей, как Llama 70B, может стоить менее 10 000 долларов через год или два. Мостак рассматривает принципы Web3 — не для спекулятивных токенов, а для идентификации, атрибуции и аттестации данных — как фундаментальную «операционную систему для человечества» для координации этой глобальной сети интеллекта, создавая «общее благо данных» для коллективного блага.

Ключевые практики:

• Национальные стратегии в области ИИ: Правительствам следует активно собирать национальные наборы данных (данные вещания, учебные программы, правовую информацию) для обучения локализованных ИИ-моделей.
• Прозрачность данных и стандарты: Крайне важны для обеспечения качества и этического соответствия моделей, особенно языковых моделей.
• Протоколы Web3 для координации: Использование преимуществ Web3 в идентификации, атрибуции и проверяемых данных для создания надежной, децентрализованной инфраструктуры для коллективного интеллекта.

Будущее демократии: Субъектность или контроль?

По мнению Мостака, ставки этого сдвига не могут быть выше. Он считает, что ИИ кардинально изменит саму демократию: «Я не думаю, что демократия выживет в своем нынешнем виде с этой технологией: она либо улучшится, либо прекратит существование». Он нарисовал резкую дихотомию: с одной стороны, «1984 на стероидах» — паноптическое будущее, управляемое сверх-убедительным ИИ, где «оптимизированная речь» и визуальные манипуляции создают состояние постоянной, коварной пропаганды. С другой — «улучшенная демократия», усиленная ИИ, которая позволяет проводить «гражданские собрания, консультативную демократию» и дает возможность «деконструировать законы» и укреплять индивидуальную субъектность.

Речь идет не о защите демократии ради нее самой, а о защите «индивидуальной свободы, независимости и субъектности». Он выступает за «усиленный человеческий интеллект», где у каждого человека есть персональный ИИ-помощник, формируя «коллективный интеллект», отражающий лучшее в человечестве. Его конечная цель — создать «чемпиона ИИ в каждой стране» и «инфраструктурную компанию, ориентированную на генеративный ИИ, для каждого крупного сектора», чтобы координировать эту обширную сеть, обеспечивая, что эта мощная технология служит для развития потенциала каждого ребенка, а не становится инструментом контроля.

Ключевые выводы:

• ИИ как разрушитель демократии: Способность ИИ генерировать дипфейки и оптимизированную, убедительную речь угрожает представительной демократии, потенциально ведя либо к усилению прямой демократии, либо к беспрецедентному авторитарному контролю.
• Персонализированные манипуляции: ИИ может адаптировать информацию и убедительный контент для отдельных лиц, обходя естественные защитные механизмы человека и формируя убеждения в беспрецедентных масштабах.
• Коллективный интеллект как AGI: Мостак выступает за AGI, который возникает из усиленного человеческого интеллекта и разнообразных, культурно релевантных наборов данных, расширяя возможности индивидов, а не централизованного, контролирующего «ИИ-Бога».

«мы контролируем технологию или эти организации контролируют технологию, которая контролирует нас» — Эмад Мостак