과의 인터뷰 Emad Mostaque

오픈소스 AI에 대한 비전으로 Abundance 360 청중을 매료시킨 지 불과 며칠 만에, Stability AI의 선구적인 창립자 에마드 모스타크(Emad Mostaque)는 중대한 발표를 했다: CEO 자리에서 물러난다는 것이었다. 이 결정은 기술 업계에 파문을 일으켰고, 많은 이들이 이처럼 혁신적인 회사의 수장이 절정의 시기에 왜 떠나는지 궁금해하게 만들었다. 피터 H. 디아만디스(Peter H. Diamandis)와의 솔직한 인터뷰에서 모스타크는 AI 시대 인류의 미래에 대한 깊은 우려에서 비롯된 엄청난 절박함과 급진적인 새로운 방향을 밝히며 그 속마음을 털어놓았다.

창업자의 소명: CEO라는 심연에서 벗어나다

많은 사람들에게 CEO는 야망의 정점이지만, 에마드 모스타크에게 그 역할은 더 중요한 사명으로부터의 방해물이 되었다. 그는 자신의 경험을 생생한 비유로 설명했다. "일론 머스크(Elon Musk)는 한때 CEO가 되는 것을 심연을 응시하고 유리를 씹는 것에 비유했습니다." 불과 2년 전 첫 개발자를 고용하며 Stability AI를 밑바닥부터 구축한 모스타크는 이 회사를 이미지, 오디오, 3D 등 "거의 모든 유형의 최고의 모델"을 만들어 3억 회 이상의 다운로드를 달성하도록 이끌었다. 하지만 이러한 급성장은 또한 글로벌 리더들과의 정책 토론부터 급격한 성장에 대한 끊임없는 요구까지 엄청난 압력을 가져왔다.

모스타크는 자신의 강점이 인사 및 사업 개발의 운영 세부 사항보다는 비전과 전략, 그리고 창의적인 인재와 연구자들이 잠재력을 최대한 발휘하도록 영감을 주는 데 있다는 것을 깨달았다. 그는 "모두가 자신만의 기술을 가지고 있다고 생각합니다."라고 회고하며, 자신이 "시스템 설계"에 능숙했지만, 다른 사람들이 일상적인 사업 운영에 더 적합하다는 것을 인정했다. 창업자에게는 감정적으로 힘든 결정이었지만, 이는 상당한 안도감을 가져다주었고, 그가 AI의 미래에 가장 큰 영향력을 발휘할 수 있는 기여라고 믿는 바를 추구할 수 있도록 해방시켜 주었다.

핵심 교훈:

• 창업자와 CEO: 모든 창업자가 CEO 역할에 가장 적합한 것은 아니며, 특히 회사가 성장하고 운영 요구사항이 증대될수록 더욱 그렇다.
• 기하급수적 성장의 과제: 전례 없는 속도로 딥 테크 기업을 구축하는 것은 거버넌스, 인재 유지, 글로벌 정책 논쟁 등 고유한 과제를 수반한다.
• "유리 씹는" 현실: CEO 역할은, 특히 생성형 AI처럼 빠르게 진화하는 분야에서는 불확실성과 예측 불가능한 문제들에 끊임없이 직면해야 한다.

중앙 집중식 권력의 위험: AI 미래를 위한 경고

모스타크의 사임은 단순히 개인적인 경력 전환이 아니었다. 이는 AI 산업 내 권력 집중화에 대한 그의 경각심에 뿌리를 둔 심오한 전략적 움직임이었다. 그는 "OpenAI와의 혼란"과 무스타파 술레이만(Mustafa Suleyman)이 거대 기술 기업인 마이크로소프트(Microsoft)에 합류한 사례처럼 거대 기업들이 인재를 빠르게 흡수하는 현상을 지적했다. 그는 "기업들은 인간의 최선의 이익과는 확실히 거리가 먼 여러 가지를 지나치게 최적화하는 느리고 멍청한 AI와 같습니다"라고 경고하며, "공항, 철도, 미래의 도로와 같은 인프라"가 "불분명한 목적 함수"를 가진 소수의 사적 기업에 의해 통제될 때 내재된 위험을 강조했다.

그의 핵심 우려는 거버넌스에 집중되어 있었다. "인류를 이끌고 모든 아이를 가르치며 우리 정부를 관리하는 기술을 누가 관리해야 합니까?" 모스타크는 정부가 필연적으로 추구하게 될 하향식 중앙 집중식 통제가 기본이 되기 전에 분산형 대안을 구축할 "1, 2년의 좁은 창"이 있다고 믿는다. 그는 일부 선도적인 조직들이 종종 제시하는 지배적인 "AI 신" 서사에 이의를 제기하며, 통제를 위해 설계된 구체화된 AI보다는 증폭된 인간 지능의 미래를 선호한다.

주요 통찰:

• 집중화 위험: 소수의 수조 달러 규모 기업으로 AI 인재, 컴퓨팅 자원 및 모델이 빠르게 집중되는 현상은 전 세계적인 이익에 중대한 위협을 가한다.
• 비도덕적 조직: 참여와 광고에 최적화된 주요 기술 기업들은, 좋은 의도에도 불구하고 인류의 최선의 이익과 일치하지 않을 수 있는 "비도덕적 기업"으로 작용할 수 있다.
• 거버넌스 공백: 강력한 AI 기술에 대한 명확하고 민주적인 거버넌스 구조의 부재는 미래를 통제되지 않은 권력과 잠재적으로 디스토피아적인 결과에 취약하게 만든다.

새로운 항로 개척: 분산형 지능에 대한 비전

에마드 모스타크가 중앙 집중식 AI의 위협에 제시하는 해결책은 "분산형 지능"을 급진적으로 수용하는 것으로, 이는 단순한 오픈소스 소프트웨어를 훨씬 뛰어넘는 개념이다. 그는 이를 세 가지 핵심 요소로 정의한다. 첫째, 모든 사람이 기술에 접근할 수 있도록 보장하는 "가용성과 접근성", 둘째, 아이들을 가르치거나 정부를 운영하는 데이터를 누가 관리할지 설정하는 "거버넌스", 셋째, 거대하고 중앙 집중적인 서비스에 의존하기보다는 사람들이 그 위에 구축할 수 있는 인프라를 만드는 "모듈성"이다.

그는 "모든 국가가 AI 전략을 필요로 하는" 미래를 envision한다. 즉, 지역 문화와 지식을 반영하는 국가 데이터 세트를 구축하여 모든 시민에게 맞춤화되고 접근 가능한 AI "졸업생"을 훈련시키는 것이다. 이 분산형 접근 방식은 AI 훈련의 효율성 증가를 활용하며, 1, 2년 안에 Llama 70B와 같은 모델을 훈련하는 데 1만 달러 미만이 들 수 있다고 예측한다. 모스타크는 투기적인 토큰이 아닌 신원, 귀속, 데이터 증명을 위한 Web3 원칙을 이 글로벌 지능 네트워크를 조율하는 기본 "인간 운영 체제"로 보고, 공동의 이익을 위한 "데이터의 공유지"를 만든다.

주요 실천 사항:

• 국가 AI 전략: 정부는 지역화된 AI 모델을 훈련시키기 위해 국가 데이터 세트(방송 데이터, 교육 과정, 법률 정보)를 적극적으로 수집해야 한다.
• 데이터 투명성 및 표준: 모델, 특히 언어 모델의 품질과 윤리적 정렬을 보장하는 데 필수적이다.
• 조정을 위한 Web3 프로토콜: Web3의 강점인 신원, 귀속, 검증 가능한 데이터를 활용하여 집단 지성을 위한 강력한 분산형 인프라를 구축해야 한다.

민주주의의 미래: 주도권인가, 통제인가?

모스타크에 따르면, 이러한 변화의 판돈은 그 어느 때보다 높다. 그는 AI가 민주주의 자체를 근본적으로 재편할 것이라고 믿는다. "민주주의가 현재 형태로 이 기술에서 살아남을 것이라고 생각하지 않습니다. 개선되거나 종말을 맞을 것입니다." 그는 극명한 양자택일을 그렸다. 한편으로는 초강력 설득 AI에 의해 구동되는 "스테로이드를 맞은 1984년 판옵티콘" 같은 미래가 있다. 여기서는 "최적화된 연설"과 시각적 조작이 끊임없고 음흉한 선전 상태를 만들어낸다. 다른 한편으로는 "시민 의회, 협의 민주주의"를 허용하고 "법을 해체"하며 개인의 주도권을 강화하는 AI에 의해 향상된 "더 나은 민주주의"가 있다.

이는 민주주의 자체를 보호하는 것이 아니라 "개인의 자유, 자율성, 주도권"을 지키는 것이다. 그는 모든 개인이 개인화된 AI 도우미를 가지고 인류의 최고를 반영하는 "집단 지능"을 형성하는 "증폭된 인간 지능"을 옹호한다. 그의 궁극적인 목표는 이 거대한 네트워크를 조율하기 위해 "모든 국가에 AI 챔피언"과 "모든 주요 부문에 생성형 AI 우선 인프라 기업"을 구축하여, 이 강력한 기술이 통제 도구가 되기보다는 모든 아이의 잠재력을 높이는 데 기여하도록 보장하는 것이다.

주요 통찰:

• 민주주의 교란자로서의 AI: 딥페이크와 최적화된 설득력 있는 연설을 생성하는 AI의 힘은 대의 민주주의를 위협하며, 강화된 직접 민주주의 또는 전례 없는 권위주의적 통제로 이어질 수 있다.
• 개인 맞춤형 조작: AI는 개인에게 정보와 설득력 있는 콘텐츠를 맞춤화하여 인간의 자연적인 방어 메커니즘을 우회하고 전례 없는 규모로 신념을 형성할 수 있다.
• AGI로서의 집단 지능: 모스타크는 중앙 집중적이고 통제적인 "AI 신"보다는 개인을 강화하는, 증폭된 인간 지능과 다양하고 문화적으로 관련된 데이터 세트에서 발생하는 AGI를 옹호한다.

"우리가 기술을 통제하는가, 아니면 이 조직들이 우리를 통제하는 기술을 통제하는가?" - 에마드 모스타크