Intervju med Emad Mostaque

Bara dagar efter att ha bländat en Abundance 360-publik med sin vision för öppen källkod-AI, gjorde Emad Mostaque, den visionära grundaren av Stability AI, ett epokgörande tillkännagivande: han skulle avgå som VD. Beslutet skapade vågor i teknikvärlden och fick många att undra varför en ledare i spetsen för ett så banbrytande företag skulle lämna vid toppen av dess framgång. I en öppenhjärtig intervju med Peter H. Diamandis drog Mostaque tillbaka ridån och avslöjade en djupgående brådska och en radikal ny riktning driven av hans djupa oro för mänsklighetens framtid i AI:s tidsålder.

Grundarens Kallelse: Att Lämnade VD-rollen

För många är VD-rollen höjden av ambition, men för Emad Mostaque hade rollen blivit en distraktion från ett viktigare uppdrag. Han beskrev sin upplevelse med en levande analogi: "Elon Musk karaktäriserade en gång VD-rollen som att stirra in i avgrunden och tugga glas." Efter att ha byggt upp Stability AI från grunden, anställt sin första utvecklare bara två år tidigare, hade Mostaque lett företaget att skapa "de bästa modellerna av nästan varje typ" – bild, ljud, 3D – och uppnått över 300 miljoner nedladdningar. Ändå förde denna blixtsnabba framgång också med sig intensiva påfrestningar, från policydebatter med globala ledare till de obevekliga kraven från snabb tillväxt.

Mostaque insåg att hans styrkor låg i vision och strategi, i att inspirera kreatörer och forskare att nå sin fulla potential, snarare än i de operativa detaljerna kring HR och affärsutveckling. "Jag tror att alla har sina egna färdigheter", reflekterade han, och erkände att även om han var skicklig på att "designa system", var andra bättre lämpade för att driva den dagliga verksamheten. Beslutet, även om det var känslomässigt krävande för en grundare, gav en betydande känsla av lättnad, och frigjorde honom att ägna sig åt vad han anser vara hans mest inflytelserika bidrag till AI:s framtid.

Viktiga insikter:

• Grundare kontra VD: Alla grundare är inte bäst lämpade att förbli VD:ar, särskilt när företag skalar upp och de operativa kraven intensifieras.
• Utmaningar med exponentiell tillväxt: Att bygga ett djupt teknologiföretag i en oöverträffad hastighet kommer med unika utmaningar, inklusive styrning, talangbehållning och globala policydebatter.
• Verkligheten att "tugga glas": VD-rollen, särskilt inom snabbt utvecklande områden som generativ AI, innebär ständig konfrontation med osäkerhet och oförutsedda problem.

Faran med Centraliserad Makt: En Väckarklocka för AI:s Framtid

Mostaques avgång var inte bara ett personligt karriärbyte; det var ett djupt strategiskt drag som grundade sig i hans oro över konsolideringen av makt inom AI-industrin. Han pekade på "turbulensen med OpenAI" och det snabba upptagandet av talang av jättar som Microsoft, exemplifierat av att Mustafa Suleyman anslöt sig till teknikjätten. "Företag är som långsamma, 'dumma' AI:er som överoptimerar för olika saker som inte med säkerhet ligger i mänsklighetens bästa intresse", varnade han och framhöll den inneboende faran när "infrastruktur... som flygplatserna, järnvägarna, framtidens vägar" kontrolleras av ett fåtal privata enheter med "oklara målsättningar".

Hans kärnoron kretsade kring styrning: "Vem ska förvalta tekniken som driver mänskligheten och utbildar varje barn och styr våra regeringar?" Mostaque anser att det finns en snäv "lucka på ett eller två år" för att etablera ett decentraliserat alternativ innan standardläget blir en uppifrån-och-ner, centraliserad kontroll som regeringar oundvikligen kommer att eftersträva. Han utmanar den rådande "AI-gud"-narrativet som ofta framförs av vissa ledande organisationer, och föredrar en framtid med förstärkt mänsklig intelligens snarare än en förkroppsligad AI designad för att kontrollera.

Viktiga insikter:

• Risk för konsolidering: Den snabba centraliseringen av AI-talang, beräkningskraft och modeller under ett fåtal företag värda biljoner dollar utgör ett betydande hot mot globala intressen.
• Amorala organisationer: Stora teknikföretag, optimerade för engagemang och annonsering, kan agera som "amorala företag" som, trots goda avsikter, kanske inte överensstämmer med mänsklighetens bästa intressen.
• Styrningsvakuum: Bristen på tydliga, demokratiska styrningsstrukturer för kraftfulla AI-teknologier lämnar framtiden sårbar för okontrollerad makt och potentiellt dystopiska utfall.

Att Staka Ut en Ny Kurs: Visionen för Decentraliserad Intelligens

Emad Mostaques lösning på hoten från centraliserad AI är ett radikalt omfamnande av "decentraliserad intelligens", ett koncept långt bortom bara öppen källkod-programvara. Han definierar det med tre kritiska komponenter: "tillgänglighet", som säkerställer att alla kan få tillgång till tekniken; "styrning", som fastställer vem som förvaltar data som lär barn eller driver regeringar; och "modularitet", att bygga en infrastruktur som människor kan bygga vidare på, istället för att förlita sig på monolitiska, centrala tjänster.

Han föreställer sig en framtid där "varje land behöver en AI-strategi", att bygga nationella datamängder som speglar lokal kultur och kunskap för att träna AI-modeller som är anpassade och tillgängliga för alla medborgare. Denna decentraliserade strategi utnyttjar den växande effektiviteten i AI-träning, och förutspår att modeller som Llama 70B skulle kunna kosta under 10 000 dollar att träna om ett eller två år. Mostaque ser web3-principer – inte för spekulativa tokens, utan för identitet, attribuering och dataattestering – som det grundläggande "mänskliga operativsystemet" för att koordinera detta globala intelligensnätverk, och skapa ett "datagemenskap" för det kollektiva bästa.

Viktiga metoder:

• Nationella AI-strategier: Regeringar bör proaktivt samla in nationella datamängder (sändningsdata, läroplaner, juridisk information) för att träna lokaliserade AI-modeller.
• Datatransparens och standarder: Viktigt för att säkerställa modellernas kvalitet och etiska anpassning, särskilt språkmodeller.
• Web3-protokoll för koordinering: Att utnyttja web3:s styrkor inom identitet, attribuering och verifierbar data för att skapa en robust, decentraliserad infrastruktur för kollektiv intelligens.

Demokratins Framtid: Handlingskraft eller Kontroll?

Insatserna för detta skifte, enligt Mostaque, kunde inte vara högre. Han tror att AI i grunden kommer att omforma demokratin i sig: "Jag tror inte att demokratin överlever denna teknik i sin nuvarande form; den kommer antingen att förbättras eller så kommer den att upphöra." Han målade upp en skarp dikotomi: å ena sidan, en "1984 på steroider panoptisk" framtid driven av hyper-övertygande AI, där "optimerat tal" och visuell manipulation skapar ett tillstånd av konstant, smygande propaganda. Å andra sidan, en "bättre demokrati" förstärkt av AI som tillåter "medborgarförsamlingar, konsultativ demokrati" och förmågan att "dekonstruera lagar" och stärka individuell handlingskraft.

Detta handlar inte om att skydda demokratin för dess egen skull, utan att skydda "individuell frihet, självständighet och handlingskraft". Han förespråkar en "förstärkt mänsklig intelligens" där varje individ har en personlig AI-hjälpare, som bildar en "kollektiv intelligens" som speglar det bästa av mänskligheten. Hans yttersta mål är att bygga en "AI-mästare i varje nation" och ett "generativt AI-första infrastrukturföretag för varje större sektor" för att koordinera detta omfattande nätverk, säkerställa att denna kraftfulla teknik tjänar till att lyfta varje barns potential, snarare än att bli ett verktyg för kontroll.

Viktiga insikter:

• AI som en demokratisk störningsfaktor: AI:s förmåga att generera deepfakes och optimerat, övertygande tal hotar den representativa demokratin, vilket potentiellt kan leda till antingen förbättrad direkt demokrati eller oöverträffad auktoritär kontroll.
• Personlig manipulation: AI kan skräddarsy information och övertygande innehåll till individer, vilket kringgår naturliga mänskliga försvar och formar åsikter i en oöverträffad skala.
• Kollektiv intelligens som AGI: Mostaque förespråkar en AGI som uppstår från förstärkt mänsklig intelligens och olika, kulturellt relevanta datamängder, vilket stärker individer snarare än en centraliserad, kontrollerande "AI-gud".

"kontrollerar vi tekniken eller kontrollerar dessa organisationer tekniken som kontrollerar oss" - Emad Mostaque