Entrevista con Emad Mostaque

Apenas unos días después de deslumbrar a la audiencia de Abundance 360 con su visión para la IA de código abierto, Emad Mostaque, el fundador visionario de Stability AI, hizo un anuncio sísmico: dimitía como CEO. La decisión generó ondas en el mundo tecnológico, dejando a muchos preguntándose por qué un líder al frente de una empresa tan innovadora se marcharía en la cima de su impulso. En una conversación sincera con Peter H. Diamandis, Mostaque desveló los motivos, revelando una profunda urgencia y una dirección nueva y radical, impulsada por sus profundas preocupaciones sobre el futuro de la humanidad en la era de la IA.

La vocación del fundador: alejarse del abismo del CEO

Para muchos, ser CEO es la cima de la ambición, pero para Emad Mostaque, el puesto se había convertido en una distracción de una misión más crítica. Describió su experiencia con una vívida analogía: "Elon Musk una vez caracterizó ser CEO como mirar fijamente al abismo y masticar cristal". Habiendo construido Stability AI desde cero, contratando a su primer desarrollador apenas dos años antes, Mostaque había dirigido la empresa para crear "los mejores modelos de casi todo tipo" – imagen, audio, 3D – logrando más de 300 millones de descargas. Sin embargo, este ascenso meteórico también trajo consigo intensas presiones, desde debates políticos con líderes globales hasta las implacables exigencias del rápido crecimiento.

Mostaque se dio cuenta de que sus puntos fuertes residían en la visión y la estrategia, en inspirar a creativos e investigadores para que alcanzasen su máximo potencial, en lugar de las minucias operativas de RRHH y el desarrollo de negocio. "Creo que cada uno tiene sus propias habilidades, ¿verdad?", reflexionó, reconociendo que, si bien él era hábil en "diseñar sistemas", otros estaban más adecuados para gestionar el día a día del negocio. La decisión, aunque emocionalmente agotadora para un fundador, le aportó una significativa sensación de alivio, liberándolo para perseguir lo que cree que es su contribución de mayor impacto al futuro de la IA.

Key Learnings:

• Fundador vs. CEO: No todos los fundadores son los más adecuados para permanecer como CEOs, especialmente a medida que las empresas escalan y las demandas operativas se intensifican.
• Desafíos del crecimiento exponencial: Construir una empresa de deep tech a una velocidad sin precedentes conlleva desafíos únicos, incluyendo la gobernanza, la retención de talento y los debates sobre políticas globales.
• La realidad de "masticar cristal": El rol de CEO, particularmente en campos en rápida evolución como la IA generativa, implica una confrontación constante con la incertidumbre y problemas imprevistos.

El peligro del poder centralizado: una llamada de atención para el futuro de la IA

La salida de Mostaque no fue simplemente un giro personal en su carrera; fue un movimiento profundamente estratégico arraigado en su alarma por la consolidación del poder dentro de la industria de la IA. Señaló la "turbulencia con OpenAI" y la rápida absorción de talento por parte de gigantes como Microsoft, ejemplificada por la incorporación de Mustafa Suleyman al gigante tecnológico. "Las empresas son como inteligencias artificiales lentas y tontas que optimizan en exceso diversas cosas que ciertamente no son lo mejor para la humanidad", advirtió, subrayando el peligro inherente cuando "la infraestructura... como los aeropuertos, los ferrocarriles, las carreteras del futuro" queda controlada por unas pocas entidades privadas con "funciones objetivo poco claras".

Su principal preocupación giraba en torno a la gobernanza: "¿Quién debe gestionar la tecnología que impulsa a la humanidad, enseña a cada niño y gestiona nuestro gobierno?". Mostaque cree que hay una estrecha "ventana de uno o dos años" para establecer una alternativa descentralizada antes de que la norma se convierta en un control centralizado y de arriba hacia abajo que los gobiernos buscarán inevitablemente. Desafía la narrativa predominante del "Dios de la IA" propuesta a menudo por algunas organizaciones líderes, prefiriendo un futuro de inteligencia humana amplificada en lugar de una IA encarnada diseñada para controlar.

Key Insights:

• Riesgo de consolidación: La rápida centralización del talento, el cómputo y los modelos de IA bajo unas pocas empresas de billones de dólares supone una amenaza significativa para los intereses globales.
• Organizaciones amorales: Las grandes empresas tecnológicas, optimizadas para la participación y la publicidad, pueden actuar como "empresas amorales" que, a pesar de las buenas intenciones, podrían no alinearse con los mejores intereses de la humanidad.
• Vacío de gobernanza: La falta de estructuras de gobernanza claras y democráticas para las potentes tecnologías de IA deja el futuro vulnerable al poder sin control y a resultados potencialmente distópicos.

Trazando un nuevo rumbo: la visión de la inteligencia descentralizada

La solución de Emad Mostaque a las amenazas de la IA centralizada es una adopción radical de la "inteligencia descentralizada", un concepto mucho más allá del mero software de código abierto. La define por tres componentes críticos: "disponibilidad y accesibilidad", asegurando que todos puedan acceder a la tecnología; "gobernanza", estableciendo quién gestiona los datos que enseñan a los niños o que rigen los gobiernos; y "modularidad", construyendo una infraestructura sobre la que la gente pueda construir, en lugar de depender de servicios monolíticos y centrales.

Imagina un futuro en el que "cada país necesita una estrategia de IA", construyendo conjuntos de datos nacionales que reflejen la cultura y el conocimiento local para entrenar "graduados" de IA que estén personalizados y sean accesibles para todos los ciudadanos. Este enfoque descentralizado aprovecha la creciente eficiencia del entrenamiento de IA, prediciendo que modelos como Llama 70B podrían costar menos de 10.000 dólares entrenarlos en uno o dos años. Mostaque ve los principios de web3 —no para tokens especulativos, sino para la identidad, la atribución y la atestación de datos— como el "sistema operativo humano" fundamental para coordinar esta red global de inteligencia, creando un "común de datos" para el bien colectivo.

Key Practices:

• Estrategias nacionales de IA: Los gobiernos deben recopilar proactivamente conjuntos de datos nacionales (datos de radiodifusión, planes de estudio, información legal) para entrenar modelos de IA localizados.
• Transparencia y estándares de datos: Esencial para garantizar la calidad y la alineación ética de los modelos, especialmente los modelos de lenguaje.
• Protocolos Web3 para la coordinación: Utilizando los puntos fuertes de web3 en identidad, atribución y datos verificables para crear una infraestructura robusta y descentralizada para la inteligencia colectiva.

El futuro de la democracia: ¿Agencia o control?

Lo que está en juego en este cambio, según Mostaque, no podría ser mayor. Cree que la IA remodelará fundamentalmente la democracia misma: "No creo que la democracia sobreviva a esta tecnología en su forma actual, o mejorará o terminará". Pintó una cruda dicotomía: por un lado, un futuro "panóptico, como un 1984 con esteroides" impulsado por una IA hiper-persuasiva, donde el "discurso optimizado" y la manipulación visual crean un estado de propaganda constante e insidiosa. Por otro lado, una "democracia mejor" mejorada por la IA que permite "asambleas ciudadanas, democracia consultiva" y la capacidad de "deconstruir leyes" y empoderar la agencia individual.

Esto no se trata de proteger la democracia por sí misma, sino de salvaguardar "la libertad individual, la autonomía y la agencia". Defiende una "inteligencia humana amplificada" donde cada individuo tiene un ayudante de IA personalizado, formando una "inteligencia colectiva" que refleje lo mejor de la humanidad. Su objetivo final es construir un "campeón de IA en cada nación" y una empresa de infraestructura "primero en IA generativa" para cada sector principal para coordinar esta vasta red, asegurando que esta potente tecnología sirva para potenciar el potencial de cada niño, en lugar de convertirse en una herramienta de control.

Key Insights:

• La IA como disruptor democrático: El poder de la IA para generar deepfakes y un discurso optimizado y persuasivo amenaza la democracia representativa, pudiendo conducir a una democracia directa mejorada o a un control autoritario sin precedentes.
• Manipulación personalizada: La IA puede adaptar información y contenido persuasivo a los individuos, eludiendo las defensas humanas naturales y moldeando creencias a una escala sin precedentes.
• Inteligencia colectiva como IAG: Mostaque aboga por una IAG que surja de la inteligencia humana amplificada y conjuntos de datos diversos y culturalmente relevantes, empoderando a los individuos en lugar de a un "Dios de la IA" centralizado y controlador.

"¿Controlamos la tecnología o estas organizaciones controlan la tecnología que nos controla a nosotros?" - Emad Mostaque