Jensen Huang Interview

매력적인 대화에서 Nvidia의 선구적인 CEO, Jensen Huang(젠슨 황)은 컴퓨팅, AI, 나아가 글로벌 경제의 미래에 대한 통찰을 드물게 제시했습니다. Bg2 Pod의 Bill Gurley(빌 걸리)와 Brad Gerstner(브래드 거스트너)와 함께한 자리에서, Huang은 간과되어 온 인공지능의 한 측면이 산업을 재정의하고 전례 없는 성장을 촉발할 준비가 되어 있으며, 이 과정에서 월스트리트의 기존 통념에 도전할 것이라는 점을 놀랍도록 명확하게 설명했습니다.

10억 배(Billionx) 폭증: AI 컴퓨팅 수요의 재정의

1년 전, Jensen Huang은 AI 추론(inference)이 단순히 100배나 1,000배가 아닌, 놀랍게도 10억 배(billionx)로 증가할 것이라고 과감하게 예측했습니다. 이러한 예측을 다시 언급하며 그는 "제가 과소평가했습니다. 공식적으로 기록해두십시오."라고 인정했습니다. AI의 빠른 발전 덕분에 그의 확신은 더욱 커졌습니다. 과거에는 단일한 '사전 학습(pre-training)' 스케일링 법칙으로 여겨지던 것이 이제는 세 가지의 독립적이고 기하급수적으로 성장하는 힘으로 나뉘었습니다: 사전 학습, 사후 학습(AI가 기술을 '연습'하는 단계), 그리고 결정적으로 '사고(thinking)' 추론입니다.

이러한 '사고' 추론이 판도를 바꾸는 요소입니다. 기존의 단일 요청 추론 모델과 달리, 현대 AI는 이제 '답변하기 전에 생각하도록' 설계되어 연구를 수행하고, 실제 정보를 확인하며, 반복 작업을 거칩니다. 이러한 복잡한 인지 과정은 기하급수적으로 더 많은 컴퓨팅 자원을 요구합니다. Huang은 "AI는 더 이상 하나의 언어 모델이 아니며, 언어 모델들의 시스템이며, 이들은 모두 도구를 사용하며 동시에 실행될 수 있습니다... 그리고 이것은 모두 다중 모드(multimodality)입니다."라고 설명합니다. 이러한 심오한 변화는 AI의 컴퓨팅 수요가 단순히 큰 정도가 아니라, 만족할 줄 모르고 빠르게 확장되고 있으며, 현재 많은 사람이 이해하는 수준을 훨씬 뛰어넘는다는 것을 의미합니다.

핵심 통찰:

AI 추론은 '사고' 및 추론 체인(chain-of-reasoning) 기능의 등장으로 '10억 배(billionx)'의 컴퓨팅 증가를 겪고 있습니다.
AI 환경은 이제 세 가지의 독립적인 스케일링 법칙에 의해 좌우됩니다: 사전 학습, 사후 학습(AI의 연습), 그리고 복잡한 추론입니다.
다중 에이전트 시스템, 다중 모드 AI, 그리고 광범위한 도구 사용은 단순한 언어 모델을 넘어 컴퓨팅 요구 사항을 극적으로 증대시킵니다.

OpenAI: 차세대 조(兆) 달러 하이퍼스케일러와 Nvidia의 전략적 승부수

Huang의 비전에서 핵심은 OpenAI와의 Nvidia 전략적 파트너십이며, 여기에는 투자와 함께 그들만의 거대한 AI 인프라 구축에 대한 지원이 포함됩니다. 그는 OpenAI를 단순한 고객이 아니라 "다음 다중 조 달러(multi-trillion dollar) 하이퍼스케일 기업이 될 가능성이 높다"고 봅니다. 이 대담한 예측은 OpenAI의 예상되는 급성장에 앞서 투자하기로 한 Nvidia의 결정의 바탕이 되며, Huang은 이를 "우리가 상상할 수 있는 가장 현명한 투자 중 하나"라고 부릅니다.

이 파트너십은 또한 AI 환경의 중대한 변화를 시사합니다. 전통적으로 Microsoft Azure와 같은 하이퍼스케일러를 활용하던 OpenAI는 이제 자체적으로 'AI 인프라를 구축'하고 있으며, 사실상 스스로 하이퍼스케일러가 되고 있습니다. 이는 Nvidia가 Meta와 Google 같은 거대 기업들과 칩, 소프트웨어, 시스템 수준에서 직접 협력하는 관계와 유사합니다. OpenAI는 고객 사용량의 기하급수적 증가와 사용 사례당 컴퓨팅 요구 사항의 기하급수적 증가('사고' AI로 인한)라는 '두 가지 기하급수적 변화'를 동시에 헤쳐나가고 있습니다. Azure, OCI, CoreWeave, 그리고 이제 OpenAI의 직접 구축에 걸친 Nvidia의 다각적인 지원은 이러한 복합적인 수요를 충족시키기 위해 고안되었으며, Nvidia의 필수적인 역할을 더욱 공고히 합니다.

핵심 결정:

Nvidia의 OpenAI 투자는 다중 조 달러(multi-trillion dollar) 하이퍼스케일 기업으로 성장할 잠재력에 베팅하는 전략적인 움직임입니다.
OpenAI의 AI 인프라 자체 구축을 지원함으로써 다른 기술 대기업들과의 Nvidia 협력과 유사하게 직접적인 풀스택(full-stack) 관계를 구축합니다.
이 파트너십은 AI 분야에서 기하급수적으로 증가하는 고객 채택과 사용자당 컴퓨팅 수요라는 복합적인 과제를 해결합니다.

난공불락의 해자(Moat): 익스트림 공동 설계(Extreme Co-Design)와 연간 출시 속도

월스트리트 분석가들은 현재 Nvidia의 성장이 2027-2030년경 정체될 것이라고 예측하고 있지만, Huang은 이러한 관점이 근본적인 변화와 일치하지 않는다고 생각합니다. 그는 세 가지 근본적인 사항을 제시합니다: 첫째, "범용 컴퓨팅의 시대는 끝났으며", 전 세계 수조 달러 규모의 컴퓨팅 인프라는 가속화된 AI 컴퓨팅으로 반드시 교체되어야 합니다. 둘째, 기존의 하이퍼스케일 워크로드(검색, 추천 엔진)는 CPU에서 GPU로 빠르게 전환되고 있으며, 이는 "수천억 달러" 규모의 변화입니다. 마지막으로, 그리고 가장 심오하게도, AI는 인간의 지능을 증강하여 글로벌 GDP의 50-65%에 영향을 미칠 것입니다.

토큰 생성과 고객 사용에 의해 추진되는 "기하급수의 기하급수"에 대응하기 위해 Nvidia는 아키텍처(Hopper, Blackwell, Rubin, Fineman)에 대해 공격적인 연간 출시 주기를 채택했습니다. 성능에 대한 무어의 법칙(Moore's Law)이 사실상 사라진 상황에서, Nvidia의 경쟁 우위는 "익스트림 공동 설계(extreme co-design)"에서 비롯됩니다. 이는 단순히 더 빠른 칩에 관한 것이 아니라, 모델, 알고리즘, 시스템, 그리고 칩을 동시에 최적화하고 '틀 밖에서' 혁신하는 것입니다. Huang이 설명하듯이, CPU, GPU, 네트워킹 칩, MVLink, Spectrum-X 이더넷을 포괄하는 이러한 풀스택(full-stack) 접근 방식은 Nvidia가 세대 간(예: Hopper에서 Blackwell로) 30배의 성능 향상을 달성하도록 하며, 이는 어떤 기존 실리콘 발전으로도 불가능한 수준입니다. 이러한 시스템적 혁신은 Nvidia와 고객 모두로부터 요구되는 막대한 투자 규모와 결합하여 경쟁업체가 복제하기 "이전보다 훨씬 더 어려운" 강력한 해자를 형성합니다.

핵심 전략:

Nvidia는 토큰 생성과 AI 사용량의 기하급수적인 증가에 보조를 맞추기 위해 아키텍처에 대한 공격적인 연간 출시 주기를 유지합니다.
'익스트림 공동 설계'는 AI 팩토리 스택 전체, 즉 모델, 알고리즘, 시스템, 칩, 네트워킹, 소프트웨어 전반에 걸친 동시 최적화를 포함합니다.
이 회사는 개별 칩 혁신을 넘어 전례 없는 성능 향상을 제공하는 통합된 풀스택 AI 시스템 구축으로 나아갔습니다.
고객 배포 규모(예: 50만 개의 GPU를 필요로 하는 1기가와트)와 Nvidia의 공급망 역량은 진입에 대한 거대한 장벽을 만듭니다.

인류 증강: 조 달러 경제 변화

Huang은 AI의 진정한 장기적 영향은 인간 지능을 증강하는 능력에 있다고 주장합니다. 비유를 들어, 그는 모터가 육체노동을 대체했듯이, "제가 말하는 이 AI 슈퍼컴퓨터들, 이 AI 팩토리들은 인간 지능을 증강하기 위한 토큰을 생성할 것입니다."라고 설명합니다. 인간 지능이 잠재적으로 글로벌 GDP의 50조 달러를 차지하는 상황에서, 1만 달러짜리 AI가 10만 달러 연봉의 직원을 두 배 생산적으로 만드는 것과 같은 약간의 증강만으로도 엄청난 새로운 시장이 창출됩니다.

그는 이러한 증강이 글로벌 GDP에 "10조 달러"를 추가할 수 있으며, 이를 위해 AI 인프라에 "5조 달러"의 연간 자본 지출이 필요하다고 믿습니다. 이는 일시적인 '공백'이나 '과잉 공급'에 관한 것이 아니라, 근본적인 변화입니다. 그는 과잉 공급에 대한 우려를 일축하며, "우리가 모든 범용 컴퓨팅을 가속 컴퓨팅과 AI로 완전히 전환하기 전까지는... [과잉 공급의] 가능성은 극히 낮습니다."라고 말합니다. 고객들의 수요 신호는 실제 필요량을 일관되게 과소평가하고 있으며, 이로 인해 Nvidia는 지속적인 "분주한 모드(scramble mode)"에 머물러 있습니다. 이러한 "에너지 산업의 르네상스"와 전체 인프라 생태계는 수십억 명의 새로운 AI '협업자(co-workers)'에 의해 주도되는 글로벌 GDP의 가속화를 의미합니다.

핵심 통찰: