Wywiad z Emad Mostaque

Zaledwie kilka dni po olśnieniu publiczności Abundance 360 swoją wizją otwartego kodu AI, Emad Mostaque, wizjonerski założyciel Stability AI, ogłosił przełomową wiadomość: ustępuje ze stanowiska CEO. Decyzja ta wywołała poruszenie w świecie technologii, pozostawiając wielu z pytaniem, dlaczego lider stojący na czele tak przełomowej firmy odszedłby w szczytowym momencie jej rozwoju. W szczerym wywiadzie z Peterem H. Diamandisem Mostaque odsłonił kulisy, ujawniając głębokie poczucie pilności i radykalnie nowy kierunek, motywowany jego głębokimi obawami o przyszłość ludzkości w erze AI.

Powołanie Założyciela: Wycofanie się z Otchłani CEO

Dla wielu bycie CEO to szczyt ambicji, ale dla Emada Mostaque’a ta rola stała się odwróceniem uwagi od ważniejszej misji. Swoje doświadczenie opisał żywym porównaniem: „Elon Musk kiedyś określił bycie CEO jako wpatrywanie się w otchłań i żucie szkła.” Zbudowawszy Stability AI od podstaw, zatrudniając pierwszego dewelopera zaledwie dwa lata wcześniej, Mostaque poprowadził firmę do stworzenia „najlepszych modeli niemal każdego typu” – obrazu, audio, 3D – osiągając ponad 300 milionów pobrań. Jednak ten błyskawiczny wzrost przyniósł również intensywne presje, od debat politycznych z globalnymi liderami po nieustanne wymagania szybkiego rozwoju.

Mostaque zdał sobie sprawę, że jego mocne strony leżą w wizji i strategii, w inspirowaniu twórców i badaczy do osiągania pełnego potencjału, a nie w operacyjnych szczegółach HR i rozwoju biznesu. „Myślę, że każdy ma swoje własne zestawy umiejętności”, zastanawiał się, przyznając, że choć był biegły w „projektowaniu systemów”, inni byli lepiej przystosowani do prowadzenia codziennej działalności. Decyzja ta, choć wyczerpująca emocjonalnie dla założyciela, przyniosła znaczne poczucie ulgi, uwalniając go do dążenia do tego, co uważa za swój najbardziej wpływowy wkład w przyszłość AI.

Kluczowe wnioski:

• Założyciel kontra CEO: Nie wszyscy założyciele są najlepiej przystosowani do pozostania CEO, zwłaszcza gdy firmy się rozwijają, a wymagania operacyjne stają się intensywniejsze.
• Wyzwania Wzrostu Eksponencjalnego: Budowanie firmy deep tech w niespotykanym tempie wiąże się z unikalnymi wyzwaniami, w tym z zarządzaniem, zatrzymywaniem talentów i globalnymi debatami politycznymi.
• Rzeczywistość „Żucia Szkła”: Rola CEO, szczególnie w szybko ewoluujących dziedzinach, takich jak generatywna AI, wiąże się z ciągłą konfrontacją z niepewnością i nieprzewidzianymi problemami.

Niebezpieczeństwo Scentralizowanej Władzy: Pobudka dla Przyszłości AI

Odejście Mostaque’a nie było jedynie osobistą zmianą kariery; było to głęboko strategiczne posunięcie zakorzenione w jego obawach dotyczących konsolidacji władzy w branży AI. Wskazał na „zawirowania z OpenAI” i szybkie przejmowanie talentów przez gigantów takich jak Microsoft, czego przykładem jest dołączenie Mustafy Suleymana do technologicznego giganta. „Firmy są jak wolne, Głuche AI, które nadmiernie optymalizują różne rzeczy, co z pewnością nie leży w najlepszym interesie ludzkości”, ostrzegł, podkreślając inherentne niebezpieczeństwo, gdy „infrastruktura... jak lotniska, koleje, drogi przyszłości” staje się kontrolowana przez kilka prywatnych podmiotów z „niejasnymi funkcjami celu”.

Jego główna obawa dotyczyła zarządzania: „Kto powinien zarządzać technologią, która napędza ludzkość, uczy każde dziecko i zarządza naszym rządem?” Mostaque uważa, że istnieje wąskie „okno roku lub dwóch” na ustanowienie zdecentralizowanej alternatywy, zanim domyślnym stanie się odgórna, scentralizowana kontrola, której rządy nieuchronnie będą szukać. Kwestionuje dominującą narrację o „Bogu AI”, często przedstawianą przez niektóre wiodące organizacje, preferując przyszłość wzmocnionej ludzkiej inteligencji, a nie ucieleśnionej AI zaprojektowanej do kontrolowania.

Kluczowe spostrzeżenia:

• Ryzyko konsolidacji: Szybka centralizacja talentów, mocy obliczeniowych i modeli AI pod kontrolą kilku firm wartych biliony dolarów stanowi poważne zagrożenie dla globalnych interesów.
• Amoralne organizacje: Duże firmy technologiczne, zoptymalizowane pod kątem zaangażowania i reklamy, mogą działać jako „amoralne firmy”, które, mimo dobrych intencji, mogą nie być zgodne z najlepszymi interesami ludzkości.
• Próżnia zarządzania: Brak jasnych, demokratycznych struktur zarządzania potężnymi technologiami AI sprawia, że przyszłość jest podatna na niekontrolowaną władzę i potencjalnie dystopijne wyniki.

Wytyczanie Nowego Kursu: Wizja Zdecentralizowanej Inteligencji

Rozwiązaniem Emada Mostaque’a na zagrożenia ze strony scentralizowanej AI jest radykalne przyjęcie „zdecentralizowanej inteligencji”, koncepcji wykraczającej daleko poza samo oprogramowanie open-source. Definiuje ją poprzez trzy kluczowe komponenty: „dostępność i powszechność”, zapewniającą każdemu dostęp do technologii; „zarządzanie”, ustalające, kto zarządza danymi, które uczą dzieci lub kierują rządami; oraz „modułowość”, budującą infrastrukturę, na której ludzie mogą bazować, zamiast polegać na monolitycznych, centralnych usługach.

Wyobraża sobie przyszłość, w której „każdy kraj potrzebuje strategii AI”, budując krajowe zbiory danych odzwierciedlające lokalną kulturę i wiedzę, aby szkolić „absolwentów” AI, którzy będą dostosowani i dostępni dla wszystkich obywateli. To zdecentralizowane podejście wykorzystuje rosnącą efektywność szkolenia AI, przewidując, że modele takie jak Llama 70B mogłyby kosztować poniżej 10 000 dolarów do przeszkolenia za rok lub dwa. Mostaque postrzega zasady web3 – nie dla tokenów spekulacyjnych, lecz dla tożsamości, atrybucji i poświadczania danych – jako fundamentalny „ludzki system operacyjny” do koordynowania tej globalnej sieci inteligencji, tworząc „dobro wspólne danych” dla dobra kolektywnego.

Kluczowe praktyki:

• Krajowe Strategie AI: Rządy powinny proaktywnie gromadzić krajowe zbiory danych (dane z transmisji, programy nauczania, informacje prawne) w celu szkolenia zlokalizowanych modeli AI.
• Przejrzystość i Standardy Danych: Niezbędne do zapewnienia jakości i etycznego dopasowania modeli, zwłaszcza modeli językowych.
• Protokoły Web3 do Koordynacji: Wykorzystywanie mocnych stron web3 w zakresie tożsamości, atrybucji i weryfikowalnych danych do tworzenia solidnej, zdecentralizowanej infrastruktury dla inteligencji kolektywnej.

Przyszłość Demokracji: Sprawczość czy Kontrola?

Stawka tej zmiany, według Mostaque’a, nie mogła być wyższa. Uważa, że AI fundamentalnie przekształci samą demokrację: „Nie sądzę, aby demokracja przetrwała tę technologię w swojej obecnej formie; albo się poprawi, albo skończy.” Przedstawił wyraźną dychotomię: z jednej strony, przyszłość „1984 na sterydach panoptycznych”, napędzana hiper-perswazyjną AI, gdzie „zoptymalizowana mowa” i manipulacja wizualna tworzą stan ciągłej, podstępnej propagandy. Z drugiej strony, „lepsza demokracja” wzmocniona przez AI, która umożliwia „zgromadzenia obywatelskie, demokrację konsultacyjną” oraz zdolność do „dekonstruowania prawa” i wzmocnienia indywidualnej sprawczości.

Nie chodzi tu o ochronę demokracji dla niej samej, ale o zabezpieczenie „indywidualnej wolności, swobody i sprawczości”. Opowiada się za „wzmocnioną inteligencją ludzką”, gdzie każda jednostka ma spersonalizowanego pomocnika AI, tworząc „zbiorową inteligencję”, która odzwierciedla to, co najlepsze w ludzkości. Jego ostatecznym celem jest zbudowanie „czempiona AI w każdym narodzie” i „firmy infrastrukturalnej opartej na generatywnej AI dla każdego głównego sektora”, aby koordynować tę rozległą sieć, zapewniając, że ta potężna technologia służy do podniesienia potencjału każdego dziecka, zamiast stać się narzędziem kontroli.

Kluczowe spostrzeżenia:

• AI jako Zakłócacz Demokracji: Zdolność AI do generowania deepfake’ów i zoptymalizowanej, perswazyjnej mowy zagraża demokracji przedstawicielskiej, potencjalnie prowadząc do wzmocnionej demokracji bezpośredniej lub bezprecedensowej kontroli autorytarnej.
• Personalizowana Manipulacja: AI może dostosowywać informacje i perswazywne treści do jednostek, omijając naturalne ludzkie mechanizmy obronne i kształtując przekonania na niespotykaną skalę.
• Inteligencja Kolektywna jako AGI: Mostaque opowiada się za AGI, która wyłania się ze wzmocnionej ludzkiej inteligencji i różnorodnych, kulturowo istotnych zbiorów danych, wzmacniając jednostki, a nie scentralizowanego, kontrolującego „Boga AI”.

„czy my kontrolujemy technologię, czy te organizacje kontrolują technologię, która kontroluje nas” - Emad Mostaque