Intervista con Emad Mostaque

Pochi giorni dopo aver sbalordito il pubblico di Abundance 360 con la sua visione per l'AI open-source, Emad Mostaque, il fondatore visionario di Stability AI, ha fatto un annuncio epocale: si sarebbe dimesso da CEO. La decisione ha scosso il mondo della tecnologia, lasciando molti a chiedersi perché un leader alla guida di un'azienda così innovativa avrebbe lasciato l'incarico al culmine del suo successo. In un'intervista schietta con Peter H. Diamandis, Mostaque ha sollevato il velo, rivelando una profonda urgenza e una nuova direzione radicale, motivate dalle sue profonde preoccupazioni per il futuro dell'umanità nell'era dell'AI.

La Vocazione del Fondatore: Allontanarsi dall'Abisso del CEO

Per molti, essere un CEO è l'apice dell'ambizione, ma per Emad Mostaque, il ruolo era diventato una distrazione da una missione più critica. Ha descritto la sua esperienza con un'analogia vivida: "Elon Musk una volta ha caratterizzato l'essere un CEO come fissare l'abisso e masticare vetro." Dopo aver costruito Stability AI da zero, assumendo il suo primo sviluppatore solo due anni prima, Mostaque aveva guidato l'azienda a creare "i migliori modelli di quasi ogni tipo" – immagini, audio, 3D – raggiungendo oltre 300 milioni di download. Eppure, questa ascesa fulminea ha portato anche intense pressioni, dai dibattiti politici con i leader globali alle implacabili esigenze di una crescita rapida.

Mostaque ha capito che i suoi punti di forza risiedevano nella visione e nella strategia, nell'ispirare creativi e ricercatori a raggiungere il loro pieno potenziale, piuttosto che nelle minuzie operative delle risorse umane e dello sviluppo aziendale. "Credo che ognuno abbia le proprie competenze giuste," ha riflettuto, riconoscendo che, sebbene fosse abile nel "progettare sistemi," altri erano più adatti a gestire le attività quotidiane dell'azienda. La decisione, sebbene emotivamente faticosa per un fondatore, ha portato un notevole senso di sollievo, liberandolo a perseguire quello che crede sia il suo contributo di maggiore impatto per il futuro dell'AI.

Key Learnings:

• Fondatore vs. CEO: Non tutti i fondatori sono i più adatti a rimanere CEO, specialmente quando le aziende si espandono e le richieste operative si intensificano.
• Sfide della Crescita Esponenziale: Costruire un'azienda "deep tech" a una velocità senza precedenti comporta sfide uniche, tra cui la governance, la fidelizzazione dei talenti e i dibattiti politici globali.
• La Realtà del "Masticare Vetro": Il ruolo del CEO, in particolare in campi in rapida evoluzione come l'AI generativa, implica un confronto costante con l'incertezza e problemi imprevisti.

Il Pericolo del Potere Centralizzato: Un Campanello d'Allarme per il Futuro dell'AI

La partenza di Mostaque non è stata semplicemente una svolta personale di carriera; è stata una mossa profondamente strategica radicata nella sua preoccupazione per il consolidamento del potere all'interno dell'industria dell'AI. Ha citato la "turbolenza con OpenAI" e il rapido assorbimento di talenti da parte di giganti come Microsoft, esemplificato dall'ingresso di Mustafa Suleyman nel colosso tecnologico. "Le aziende sono come AI lente e stupide che ottimizzano eccessivamente per varie cose che non sono certamente nel migliore interesse dell'umanità," ha ammonito, sottolineando il pericolo intrinseco quando "infrastrutture... come gli aeroporti, le ferrovie, le strade del futuro" vengono controllate da poche entità private con "funzioni obiettivo poco chiare."

La sua preoccupazione principale ruotava attorno alla governance: "Chi dovrebbe gestire la tecnologia che guida l'umanità, insegna a ogni bambino e gestisce i nostri governi?" Mostaque crede che ci sia una stretta "finestra di un anno o due" per stabilire un'alternativa decentralizzata prima che l'impostazione predefinita diventi un controllo centralizzato, dall'alto verso il basso, che i governi cercheranno inevitabilmente. Contesta la narrazione predominante dell'"AI Dio" spesso proposta da alcune organizzazioni leader, preferendo un futuro di intelligenza umana amplificata piuttosto che un'AI incarnata progettata per il controllo.

Key Insights:

• Rischio di Consolidamento: La rapida centralizzazione di talenti, capacità di calcolo e modelli di AI sotto poche aziende da trilioni di dollari pone una minaccia significativa agli interessi globali.
• Organizzazioni Amorali: Le principali aziende tecnologiche, ottimizzate per l'engagement e la pubblicità, possono agire come "aziende amorali" che, nonostante le buone intenzioni, potrebbero non allinearsi con i migliori interessi dell'umanità.
• Vuoto di Governance: La mancanza di strutture di governance chiare e democratiche per le potenti tecnologie AI lascia il futuro vulnerabile a un potere incontrollato e a esiti potenzialmente distopici.

Tracciare una Nuova Rotta: La Visione per l'Intelligenza Decentralizzata

La soluzione di Emad Mostaque alle minacce dell'AI centralizzata è un'adozione radicale dell'"intelligenza decentralizzata," un concetto che va ben oltre il semplice software open-source. La definisce attraverso tre componenti critici: "disponibilità e accessibilità," assicurando che tutti possano accedere alla tecnologia; "governance," stabilendo chi gestisce i dati che insegnano ai bambini o gestiscono i governi; e "modularità," costruendo un'infrastruttura su cui le persone possano costruire, piuttosto che affidarsi a servizi monolitici e centrali.

Immagina un futuro in cui "ogni paese ha bisogno di una strategia AI," costruendo set di dati nazionali che riflettano la cultura e la conoscenza locali per addestrare "diplomati" AI personalizzati e accessibili a tutti i cittadini. Questo approccio decentralizzato sfrutta la crescente efficienza dell'addestramento dell'AI, prevedendo che modelli come Llama 70B potrebbero costare meno di 10.000 dollari per essere addestrati tra un anno o due. Mostaque vede i principi del web3 – non per i token speculativi, ma per l'identità, l'attribuzione e l'attestazione dei dati – come il "sistema operativo umano" fondamentale per coordinare questa rete globale di intelligenza, creando un "bene comune di dati" per il bene collettivo.

Key Practices:

• Strategie Nazionali di AI: I governi dovrebbero raccogliere proattivamente set di dati nazionali (dati di trasmissione, curricula, informazioni legali) per addestrare modelli di AI localizzati.
• Trasparenza e Standard dei Dati: Essenziali per garantire la qualità e l'allineamento etico dei modelli, specialmente dei modelli linguistici.
• Protocolli Web3 per il Coordinamento: Utilizzare i punti di forza del web3 in termini di identità, attribuzione e dati verificabili per creare un'infrastruttura robusta e decentralizzata per l'intelligenza collettiva.

Il Futuro della Democrazia: Agency o Controllo?

La posta in gioco di questo cambiamento, secondo Mostaque, non potrebbe essere più alta. Crede che l'AI rimodellerà fondamentalmente la democrazia stessa: "Non credo che la democrazia sopravviva a questa tecnologia nella sua forma attuale, o migliorerà o finirà." Ha dipinto una netta dicotomia: da un lato, un futuro "1984 sotto steroidi panottico" guidato da un'AI iper-persuasiva, dove "discorsi ottimizzati" e manipolazione visiva creano uno stato di propaganda costante e insidiosa. Dall'altro, una "democrazia migliore" potenziata dall'AI che consente "assemblee cittadine, democrazia consultiva" e la capacità di "decostruire le leggi" e rafforzare l'agency individuale.

Non si tratta di proteggere la democrazia fine a se stessa, ma di salvaguardare "la libertà individuale, la libertà e l'agency." Sostiene un'"intelligenza umana amplificata" dove ogni individuo ha un assistente AI personalizzato, formando un'"intelligenza collettiva" che riflette il meglio dell'umanità. Il suo obiettivo finale è costruire un "campione di AI in ogni nazione" e una "società di infrastrutture basata sull'AI generativa per ogni settore importante" per coordinare questa vasta rete, assicurando che questa potente tecnologia serva a elevare il potenziale di ogni bambino, piuttosto che diventare uno strumento di controllo.

Key Insights:

• L'AI come Elemento di Disgregazione Democratica: Il potere dell'AI di generare deepfake e discorsi ottimizzati e persuasivi minaccia la democrazia rappresentativa, portando potenzialmente a una democrazia diretta potenziata o a un controllo autoritario senza precedenti.
• Manipolazione Personalizzata: L'AI può personalizzare informazioni e contenuti persuasivi per gli individui, aggirando le naturali difese umane e modellando le convinzioni su una scala senza precedenti.
• Intelligenza Collettiva come AGI: Mostaque sostiene un'AGI che emerga dall'intelligenza umana amplificata e da set di dati diversi e culturalmente rilevanti, potenziando gli individui piuttosto che un "Dio AI" centralizzato e controllore.

"controlliamo noi la tecnologia o queste organizzazioni controllano la tecnologia che controlla noi" - Emad Mostaque