Entretien avec Emad Mostaque

Il y a quelques jours, après avoir ébloui un public d'Abundance 360 avec sa vision de l'IA open-source, Emad Mostaque, le fondateur visionnaire de Stability AI, a fait une annonce retentissante : il quittait son poste de CEO. Cette décision a créé des ondes de choc dans le monde de la technologie, laissant beaucoup de gens se demander pourquoi un leader à la tête d'une entreprise aussi novatrice s'en irait au sommet de sa dynamique. Dans un entretien franc avec Peter H. Diamandis, Mostaque a levé le voile, révélant une profonde urgence et une nouvelle orientation radicale, motivées par ses vives préoccupations pour l'avenir de l'humanité à l'ère de l'IA.

L'appel du fondateur : S'éloigner de l'abîme du rôle de CEO

Pour beaucoup, être CEO est le summum de l'ambition, mais pour Emad Mostaque, ce rôle était devenu une distraction de sa mission plus essentielle. Il a décrit son expérience avec une analogie percutante : « Elon Musk a déjà décrit le rôle de CEO comme fixer l'abîme et mâcher du verre. » Ayant bâti Stability AI de toutes pièces, en embauchant son premier développeur à peine deux ans auparavant, Mostaque avait mené l'entreprise à créer « les meilleurs modèles de presque tous les types » – image, audio, 3D – totalisant plus de 300 millions de téléchargements. Pourtant, cette ascension fulgurante a également apporté des pressions intenses, allant des débats politiques avec les leaders mondiaux aux exigences incessantes d'une croissance rapide.

Mostaque a réalisé que ses forces résidaient dans la vision et la stratégie, dans l'inspiration des créatifs et des chercheurs à réaliser leur plein potentiel, plutôt que dans les détails opérationnels des RH et du développement commercial. « Je pense que chacun a ses propres compétences », a-t-il réfléchi, reconnaissant que s'il était doué pour « concevoir des systèmes », d'autres étaient mieux adaptés à la gestion quotidienne des affaires. La décision, bien qu'éprouvante sur le plan émotionnel pour un fondateur, a apporté un soulagement considérable, le libérant de poursuivre ce qu'il estime être sa contribution la plus percutante à l'avenir de l'IA.

Points clés à retenir :

• Fondateur vs. CEO : Tous les fondateurs ne sont pas les mieux placés pour rester CEO, surtout à mesure que les entreprises prennent de l'ampleur et que les exigences opérationnelles s'intensifient.
• Défis de la croissance exponentielle : Bâtir une entreprise de deep tech à une vitesse sans précédent s'accompagne de défis uniques, notamment la gouvernance, la rétention des talents et les débats politiques mondiaux.
• La réalité du « mâcher du verre » : Le rôle de CEO, en particulier dans des domaines en rapide évolution comme l'IA générative, implique une confrontation constante avec l'incertitude et les problèmes imprévus.

Le péril du pouvoir centralisé : Un signal d'alarme pour l'avenir de l'IA

Le départ de Mostaque n'était pas seulement un simple changement de carrière personnel ; c'était une démarche profondément stratégique ancrée dans son inquiétude face à la consolidation du pouvoir au sein de l'industrie de l'IA. Il a souligné les « turbulences avec OpenAI » et l'absorption rapide des talents par des géants comme Microsoft, illustrée par l'arrivée de Mustafa Suleyman au sein du colosse technologique. « Les entreprises sont comme des IA lentes et stupides qui sur-optimisent diverses choses qui ne sont certainement pas dans le meilleur intérêt de l'humanité », a-t-il averti, soulignant le danger inhérent lorsque « des infrastructures... comme les aéroports, les chemins de fer, les routes du futur » sont contrôlées par quelques entités privées ayant « des fonctions objectives peu claires ».

Sa principale préoccupation tournait autour de la gouvernance : « Qui devrait gérer la technologie qui propulse l'humanité, éduque chaque enfant et gère nos gouvernements ? » Mostaque estime qu'il y a une étroite « fenêtre d'un an ou deux » pour établir une alternative décentralisée avant que la norme ne devienne un contrôle centralisé et descendant que les gouvernements rechercheront inévitablement. Il remet en question le discours dominant de l'« IA-Dieu » souvent avancé par certaines organisations de premier plan, préférant un avenir d'intelligence humaine amplifiée plutôt qu'une IA incarnée conçue pour contrôler.

Insights clés :

• Risque de consolidation : La centralisation rapide des talents, de la puissance de calcul et des modèles d'IA sous quelques entreprises valant des billions de dollars constitue une menace significative pour les intérêts mondiaux.
• Organisations amorales : Les grandes entreprises technologiques, optimisées pour l'engagement et la publicité, peuvent agir comme des « entreprises amorales » qui, malgré leurs bonnes intentions, pourraient ne pas s'aligner avec les meilleurs intérêts de l'humanité.
• Vide de gouvernance : Le manque de structures de gouvernance claires et démocratiques pour les technologies d'IA puissantes rend l'avenir vulnérable à un pouvoir incontrôlé et à des résultats potentiellement dystopiques.

Tracer une nouvelle voie : La vision d'une intelligence décentralisée

La solution d'Emad Mostaque aux menaces de l'IA centralisée est une adoption radicale de l'« intelligence décentralisée », un concept bien au-delà du simple logiciel open-source. Il le définit par trois composantes essentielles : la « disponibilité et l'accessibilité », garantissant que chacun puisse accéder à la technologie ; la « gouvernance », en établissant qui gère les données qui éduquent les enfants ou dirigent les gouvernements ; et la « modularité », en construisant une infrastructure sur laquelle les gens peuvent s'appuyer, plutôt que de dépendre de services centraux monolithiques.

Il envisage un avenir où « chaque pays a besoin d'une stratégie IA », en créant des ensembles de données nationaux reflétant la culture et les connaissances locales pour former des « diplômés » d'IA personnalisés et accessibles à tous les citoyens. Cette approche décentralisée tire parti de l'efficacité croissante de la formation des IA, prévoyant que des modèles comme Llama 70B pourraient coûter moins de 10 000 $ à entraîner d'ici un an ou deux. Mostaque considère les principes du web3 – non pas pour les jetons spéculatifs, mais pour l'identité, l'attribution et l'attestation des données – comme le « système d'exploitation humain » fondamental pour coordonner ce réseau mondial d'intelligence, créant un « bien commun de données » pour le bien collectif.

Pratiques clés :

• Stratégies nationales d'IA : Les gouvernements devraient collecter de manière proactive des ensembles de données nationaux (données de diffusion, programmes scolaires, informations juridiques) pour entraîner des modèles d'IA localisés.
• Transparence et normes des données : Essentielles pour garantir la qualité et l'alignement éthique des modèles, en particulier les modèles de langage.
• Protocoles Web3 pour la coordination : Utiliser les forces du web3 en matière d'identité, d'attribution et de données vérifiables pour créer une infrastructure robuste et décentralisée pour l'intelligence collective.

L'avenir de la démocratie : Agence ou contrôle ?

Les enjeux de ce changement, selon Mostaque, ne pourraient être plus élevés. Il estime que l'IA refaçonnera fondamentalement la démocratie elle-même : « Je ne pense pas que la démocratie survive à cette technologie sous sa forme actuelle, elle s'améliorera ou elle prendra fin. » Il a dépeint une dichotomie frappante : d'un côté, un avenir « 1984 sous stéroïdes panoptique » propulsé par une IA hyper-persuasive, où le « discours optimisé » et la manipulation visuelle créent un état de propagande constante et insidieuse. De l'autre, une « meilleure démocratie » améliorée par l'IA qui permet des « assemblées citoyennes, une démocratie consultative » et la capacité de « déconstruire les lois » et de renforcer l'autonomie individuelle.

Il ne s'agit pas de protéger la démocratie pour elle-même, mais de préserver la « liberté individuelle, la liberté et l'autonomie ». Il défend une « intelligence humaine amplifiée » où chaque individu dispose d'un assistant IA personnalisé, formant une « intelligence collective » qui reflète le meilleur de l'humanité. Son objectif ultime est de bâtir un « champion de l'IA dans chaque nation » et une « entreprise d'infrastructure privilégiant l'IA générative pour chaque secteur majeur » afin de coordonner ce vaste réseau, garantissant que cette technologie puissante serve à élever le potentiel de chaque enfant, plutôt que de devenir un outil de contrôle.

Insights clés :

• L'IA comme perturbateur démocratique : Le pouvoir de l'IA de générer des deepfakes et des discours optimisés et persuasifs menace la démocratie représentative, pouvant conduire soit à une démocratie directe améliorée, soit à un contrôle autoritaire sans précédent.
• Manipulation personnalisée : L'IA peut adapter les informations et le contenu persuasif aux individus, contournant les défenses humaines naturelles et façonnant les croyances à une échelle sans précédent.
• L'intelligence collective comme AGI : Mostaque plaide pour une AGI qui émerge de l'intelligence humaine amplifiée et d'ensembles de données diversifiés et culturellement pertinents, responsabilisant les individus plutôt qu'un « IA-Dieu » centralisé et contrôlant.

« Contrôlons-nous la technologie ou ces organisations contrôlent-elles la technologie qui nous contrôle ? » - Emad Mostaque