Interview mit Emad Mostaque

Nur wenige Tage, nachdem er ein Abundance 360-Publikum mit seiner Vision für quelloffene KI begeistert hatte, machte Emad Mostaque, der visionäre Gründer von Stability AI, eine bahnbrechende Ankündigung: er trete als CEO zurück. Die Entscheidung sorgte in der Tech-Welt für Aufsehen und ließ viele fragen, warum ein führender Kopf an der Spitze eines so bahnbrechenden Unternehmens auf dem Höhepunkt seines Erfolges abtreten würde. In einem offenen Interview mit Peter H. Diamandis lüftete Mostaque den Vorhang und offenbarte eine tiefgreifende Dringlichkeit sowie eine radikal neue Richtung, die von seinen großen Bedenken hinsichtlich der Zukunft der Menschheit im Zeitalter der KI angetrieben wird.

Die Berufung des Gründers: Abschied vom Abgrund des CEO-Daseins

Für viele ist es der Höhepunkt der Ambition, CEO zu sein, doch für Emad Mostaque war die Rolle zu einer Ablenkung von einer wichtigeren Mission geworden. Er beschrieb seine Erfahrung mit einer lebhaften Analogie: "Elon Musk charakterisierte das Dasein als CEO einst als das Starren in den Abgrund und das Kauen von Glas." Nachdem er Stability AI von Grund auf aufgebaut und nur zwei Jahre zuvor seinen ersten Entwickler eingestellt hatte, führte Mostaque das Unternehmen dazu, "die besten Modelle fast jeder Art" – Bild, Audio, 3D – zu entwickeln und über 300 Millionen Downloads zu erreichen. Doch dieser kometenhafte Aufstieg brachte auch intensiven Druck mit sich, von politischen Debatten mit globalen Führungspersönlichkeiten bis hin zu den unerbittlichen Anforderungen des schnellen Wachstums.

Mostaque erkannte, dass seine Stärken in Vision und Strategie lagen, darin, Kreative und Forscher zu inspirieren, ihr volles Potenzial auszuschöpfen, anstatt sich mit den operativen Kleinigkeiten von HR und Geschäftsentwicklung zu befassen. "Ich denke, jeder hat seine eigenen Fähigkeiten", reflektierte er und räumte ein, dass er zwar geschickt im "Entwerfen von Systemen" war, andere aber besser für das Tagesgeschäft geeignet seien. Die Entscheidung, obwohl für einen Gründer emotional belastend, brachte ein erhebliches Gefühl der Erleichterung mit sich und befreite ihn, das zu verfolgen, was er für seinen wirkungsvollsten Beitrag zur Zukunft der KI hält.

Key Learnings:

• Gründer vs. CEO: Nicht alle Gründer sind am besten geeignet, CEO zu bleiben, insbesondere wenn Unternehmen wachsen und die operativen Anforderungen sich intensivieren.
• Herausforderungen des exponentiellen Wachstums: Der Aufbau eines Deep-Tech-Unternehmens in beispielloser Geschwindigkeit birgt einzigartige Herausforderungen, darunter Governance, Talentbindung und globale politische Debatten.
• Die Realität des "Glas-Kauens": Die CEO-Rolle, insbesondere in sich schnell entwickelnden Bereichen wie generativer KI, beinhaltet die ständige Konfrontation mit Unsicherheiten und unvorhergesehenen Problemen.

Die Gefahr zentralisierter Macht: Ein Weckruf für die Zukunft der KI

Mostaques Abgang war nicht nur eine persönliche berufliche Neuorientierung; es war ein zutiefst strategischer Schritt, der in seiner Besorgnis über die Konsolidierung der Macht innerhalb der KI-Branche wurzelte. Er verwies auf die "Turbulenzen bei OpenAI" und die schnelle Aufnahme von Talenten durch Giganten wie Microsoft, exemplarisch dargestellt durch Mustafa Suleymans Wechsel zu dem Tech-Giganten. "Unternehmen sind wie langsame, dumme KIs, die verschiedene Dinge überoptimieren, die sicherlich nicht im besten Interesse der Menschheit liegen", warnte er und hob die intrinsische Gefahr hervor, wenn "Infrastruktur... wie die Flughäfen, die Eisenbahnen, die Straßen der Zukunft" von einigen wenigen privaten Einheiten mit "unklaren Zielfunktionen" kontrolliert wird.

Seine Hauptsorge drehte sich um Governance: "Wer soll die Technologie verwalten, die die Menschheit antreibt, jedes Kind unterrichtet und unsere Regierung lenkt?" Mostaque glaubt, es gebe ein enges "Fenster von ein oder zwei Jahren", um eine dezentralisierte Alternative zu etablieren, bevor der Standard eine Top-down-zentralisierte Kontrolle wird, die Regierungen unweigerlich anstreben werden. Er stellt die vorherrschende "KI-Gott"-Erzählung, die oft von einigen führenden Organisationen vertreten wird, in Frage und bevorzugt eine Zukunft der verstärkten menschlichen Intelligenz anstelle einer verkörperten KI, die darauf ausgelegt ist zu kontrollieren.

Key Insights:

• Konsolidierungsrisiko: Die schnelle Zentralisierung von KI-Talenten, Rechenleistung und Modellen unter einigen wenigen Billionen-Dollar-Unternehmen stellt eine erhebliche Bedrohung für globale Interessen dar.
• Amorale Organisationen: Große Tech-Unternehmen, optimiert für Engagement und Werbung, können als "amorale Unternehmen" agieren, die trotz guter Absichten möglicherweise nicht mit den besten Interessen der Menschheit übereinstimmen.
• Governance-Vakuum: Das Fehlen klarer, demokratischer Governance-Strukturen für leistungsstarke KI-Technologien macht die Zukunft anfällig für unkontrollierte Macht und potenziell dystopische Ergebnisse.

Einen neuen Kurs einschlagen: Die Vision für dezentrale Intelligenz

Emad Mostaques Lösung für die Bedrohungen durch zentralisierte KI ist eine radikale Hinwendung zu "dezentraler Intelligenz", ein Konzept, das weit über bloße Open-Source-Software hinausgeht. Er definiert sie durch drei entscheidende Komponenten: "Verfügbarkeit und Zugänglichkeit", um sicherzustellen, dass jeder auf die Technologie zugreifen kann; "Governance", um festzulegen, wer die Daten verwaltet, die Kinder unterrichten oder Regierungen leiten; und "Modularität", um eine Infrastruktur zu schaffen, auf der Menschen aufbauen können, anstatt sich auf monolithische, zentrale Dienste zu verlassen.

Er sieht eine Zukunft, in der "jedes Land eine KI-Strategie benötigt", nationale Datensätze erstellt, die lokale Kultur und Wissen widerspiegeln, um KI-"Absolventen" zu trainieren, die auf alle Bürger zugeschnitten und für sie zugänglich sind. Dieser dezentralisierte Ansatz nutzt die wachsende Effizienz des KI-Trainings und prognostiziert, dass Modelle wie Llama 70B in ein oder zwei Jahren für unter 10.000 US-Dollar trainiert werden könnten. Mostaque betrachtet Web3-Prinzipien – nicht für spekulative Token, sondern für Identität, Attribuierung und Datenzertifizierung – als das grundlegende "menschliche Betriebssystem", um dieses globale Intelligenznetzwerk zu koordinieren und ein "Daten-Commons" zum kollektiven Wohl zu schaffen.

Key Practices:

• Nationale KI-Strategien: Regierungen sollten proaktiv nationale Datensätze (Rundfunkdaten, Lehrpläne, rechtliche Informationen) sammeln, um lokalisierte KI-Modelle zu trainieren.
• Datentransparenz & Standards: Wesentlich zur Sicherstellung der Qualität und ethischen Ausrichtung von Modellen, insbesondere Sprachmodellen.
• Web3-Protokolle zur Koordination: Nutzung der Stärken von Web3 in Identität, Attribuierung und verifizierbaren Daten, um eine robuste, dezentralisierte Infrastruktur für kollektive Intelligenz zu schaffen.

Die Zukunft der Demokratie: Handlungsfähigkeit oder Kontrolle?

Die Einsätze dieser Verschiebung könnten Mostaque zufolge nicht höher sein. Er glaubt, dass KI die Demokratie selbst grundlegend neu gestalten wird: "Ich glaube nicht, dass die Demokratie diese Technologie in ihrer jetzigen Form überleben wird; sie wird sich entweder verbessern oder enden." Er zeichnete eine scharfe Dichotomie: Einerseits eine "1984 auf Steroiden panoptische" Zukunft, angetrieben von hyper-überzeugender KI, in der "optimierte Sprache" und visuelle Manipulation einen Zustand konstanter, heimtückischer Propaganda schaffen. Andererseits eine "bessere Demokratie", die durch KI verbessert wird und "Bürgerversammlungen, konsultative Demokratie" sowie die Fähigkeit, "Gesetze zu dekonstruieren" und die individuelle Handlungsfähigkeit zu stärken, ermöglicht.

Es geht hier nicht darum, die Demokratie um ihrer selbst willen zu schützen, sondern darum, "individuelle Freiheit, Unabhängigkeit und Handlungsfähigkeit" zu bewahren. Er befürwortet eine "verstärkte menschliche Intelligenz", bei der jeder Einzelne einen personalisierten KI-Helfer hat, der eine "kollektive Intelligenz" bildet, die das Beste der Menschheit widerspiegelt. Sein ultimatives Ziel ist es, in jeder Nation einen "KI-Champion" und für jeden wichtigen Sektor ein "generatives KI-First-Infrastrukturunternehmen" aufzubauen, um dieses riesige Netzwerk zu koordinieren und sicherzustellen, dass diese leistungsstarke Technologie das Potenzial jedes Kindes fördert, anstatt zu einem Kontrollwerkzeug zu werden.

Key Insights:

• KI als demokratischer Disruptor: Die Fähigkeit der KI, Deepfakes und optimierte, überzeugende Sprache zu erzeugen, bedroht die repräsentative Demokratie und kann entweder zu einer verbesserten direkten Demokratie oder zu einer beispiellosen autoritären Kontrolle führen.
• Personalisierte Manipulation: KI kann Informationen und überzeugende Inhalte auf Einzelpersonen zuschneiden, wodurch natürliche menschliche Abwehrmechanismen umgangen und Überzeugungen in einem beispiellosen Ausmaß geformt werden.
• Kollektive Intelligenz als AGI: Mostaque plädiert für eine AGI, die aus verstärkter menschlicher Intelligenz und vielfältigen, kulturell relevanten Datensätzen hervorgeht, um Individuen zu stärken, anstatt einen zentralisierten, kontrollierenden "KI-Gott" zu schaffen.

"Kontrollieren wir die Technologie oder kontrollieren diese Organisationen die Technologie, die uns kontrolliert?" - Emad Mostaque