과의 인터뷰 Jensen Huang

Acquired 진행자 Ben Gilbert와 David Rosenthal이 Nvidia 연구에 500시간 이상을 쏟은 이야기를 듣는 것만으로도 대단한데, 그 후 CEO Jensen Huang과 직접 만나 완전히 새로운 차원의 이해를 발견하게 되는 것은 Huang CEO의 비범함을 보여주는 증거입니다. 회사 빌딩의 마스터클래스이자 컴퓨팅 미래에 대한 심도 깊은 탐구였던 그 대화에서, Huang은 Nvidia의 여정을 겹겹이 풀어내며 대담한 베팅, 끊임없는 통찰력, 그리고 그들의 칩만큼이나 혁신적인 조직 아키텍처라는 철학을 드러냈습니다.

완벽을 향한 대담함: '완벽한 칩'에 회사의 운명을 걸다

많은 거대 기업들처럼 Nvidia의 여정도 죽을 고비를 넘기며 시작되었습니다. 1997년, 현금이 6개월치밖에 남지 않았고 30개의 경쟁사를 마주하고 있는 스타트업을 상상해보세요. 이전의 아키텍처 베팅은 잘못된 것으로 판명되었고, Microsoft의 DirectX는 기존 설계와 근본적으로 호환되지 않았습니다. 이것은 세계 최초의 완전한 3D 가속 그래픽 파이프라인으로 설계된 Reva 128에게 시련의 순간이었습니다. 존립 위기에 처하자 Jensen Huang은 상상할 수 없는 결정을 내렸습니다. 물리적 프로토타이핑을 포기하고 오로지 시뮬레이션에 기반하여 전체 생산을 주문한 것입니다.

팀은 칩을 가상으로 프로토타이핑했는데, 하나의 프레임을 렌더링하는 데 한 시간이 걸리는 에뮬레이터에서 모든 소프트웨어와 게임을 실행하면서였습니다. 이 고된 과정은 거의 비이성적인 확신으로 이어졌습니다. Huang의 회상에 따르면, 칩이 완벽할 것이라는 것을 어떻게 알았느냐는 질문에 그는 "완벽할 거라고 알고 있습니다. 완벽하지 않다면 우리는 사업을 접어야 할 테니까요."라고 간단히 대답했습니다. 미래의 위험에 대한 철저한 시뮬레이션에 의해 추진된 이 고위험 접근 방식은 그들이 칩 설계를 완료하고 즉시 마케팅 및 생산 공세를 시작할 수 있게 했습니다. 이 도박은 운 때문이 아니라 미래가 미리 엄격하게 시뮬레이션되었기 때문에 성공했습니다.

핵심 교훈:

• 미래 시뮬레이션: 실행에 옮기기 전에 모든 잠재적 미래 위험과 미지수를 선제적으로 식별하고 해결하라.
• 단 한 번의 기회, 완벽하게: 위험이 가장 클 때, "완벽한 결과"를 위해 철저히 준비하는 것이 실제 베팅의 위험을 줄인다.
• 열광적인 시장: 기술이 "아무리 좋아도 만족하지 못하는" 시장 부문을 찾아 지속적인 혁신을 위한 기회를 확보하라.

미래 예측: 그래픽에서 보편적 함수 근사기로

2010년대 초반으로 시간을 돌려보면, 소비자 그래픽 분야의 선두 주자였던 Nvidia는 딥러닝의 등장과 함께 또 다른 중대한 순간을 맞이했습니다. 주류 기술계의 많은 사람들은 AlexNet과 같은 돌파구를 "과학 프로젝트"로 여겼지만, Jensen Huang은 지각변동을 감지했습니다. Nvidia는 이미 다양한 과학 분야의 연구자들에게 슈퍼컴퓨팅을 대중화하는 플랫폼인 CUDA에 막대한 투자를 한 상태였습니다. 학계와의 이러한 기존 관계는 중요한 피드백 루프가 되었습니다.

Huang과 그의 팀은 선견지명을 가지고 "무엇이 이것을 그렇게 성공적으로 만들었을까?", "확장 가능한가?"라고 질문했습니다. 그들의 추론은 심오한 깨달음으로 이어졌습니다. 딥러닝이 "보편적 함수 근사기(universal function approximator)"를 우연히 발견했다는 것이었습니다. 이는 소비자 선호도 예측부터 날씨 패턴에 이르기까지 많은 실제 문제들이 인과관계를 이해할 필요 없이 예측 가능성만 요구한다는 것을 의미했습니다. 시스템이 예시로부터 학습하고 예측을 할 수 있다면, 그 응용 분야는 "매우 거대"할 것이었습니다. Ilya Sutskever와 Andrew Ng 같은 연구자들과의 깊은 교류에서 비롯된 이 확신은 AI가 주류로 폭발적으로 부상하기 수년 전에 AI에 대한 흔들림 없는 투자를 촉진했습니다.

핵심 전환점:

• 인과관계에서 예측 가능성으로의 패러다임 전환: 많은 문제들이 근본 원인 이해보다 패턴 인식을 통해 더 큰 이점을 얻는다는 것을 인식함.
• 슈퍼컴퓨팅의 민주화: CUDA 플랫폼 구축은 딥러닝과 같은 새로운 컴퓨팅 패러다임으로 자연스럽게 이끌리는 커뮤니티를 육성함.
• 초기 채택자 참여: 선구적인 연구자들과 긴밀히 협력하여 장기 투자에 대한 중요한 통찰력과 검증을 확보함.

보이지 않는 인프라: 내일의 데이터 센터 구축

오늘날 AI 폭발을 가능하게 한 Nvidia의 여정은 게이밍 GPU에서 대규모 데이터 센터로의 직접적인 도약이 아니었습니다. 그것은 약 17년 전 "우리의 기회를 제한하는 것은 무엇인가?"라는 간단한 질문에서 시작된 전략적이고 수십 년에 걸친 전환이었습니다. 그 답은 GPU가 데스크톱 PC에 물리적으로 묶여 있다는 것이었습니다. Jensen은 컴퓨팅이 시청 장치와 분리되는 미래를 상상했습니다. 이것은 그들의 첫 클라우드 제품인 GeForce Now (GFN)로 이어졌고, 이후 기업용 원격 그래픽으로 발전했습니다.

데이터 센터로의 이러한 점진적이고 의도적인 확장은 분산 컴퓨팅의 미묘한 차이를 배우고 지연 시간 문제를 극복하면서 AI의 기반을 마련했습니다. "미래의 기회를 위해 미리 길을 닦아야 합니다. 기회가 눈앞에 나타날 때까지 기다려서는 안 됩니다." 이 원칙은 고성능 네트워킹 회사인 Mellanox를 대담하게 인수하는 것으로 절정에 달했는데, 이는 당시 "모두에게 놀라움"이었습니다. Huang은 AI용 데이터 센터가 하이퍼스케일 클라우드와 근본적으로 다르며, 수백만 개의 프로세서에 걸쳐 모델을 분할하기 위해 "하이퍼스케일의 역" 네트워킹이 필요하다는 것을 인식했습니다. Mellanox는 결정적인 InfiniBand 기술을 제공했고, 이는 인수를 "내가 내린 최고의 전략적 결정 중 하나"로 만들었습니다.

핵심 실천 원칙:

• 장기적 제약 예측: 미래 성장과 시장 기회를 제한할 수 있는 병목 현상을 식별하고 체계적으로 제거하라.
• 전략적 선점: 정확한 형태가 불분명하더라도 "회사를 기회 근처에 위치시키는" 근본적인 기술과 역량에 투자하라.
• 역발상 사고: 새로운 시장(AI 데이터 센터와 같은)이 기존 모델(하이퍼스케일 클라우드와 같은)과는 완전히 다른 아키텍처 접근 방식을 요구할 때 이를 인식하라.

전략으로서의 아키텍처: "미션이 보스"인 조직

Jensen Huang의 독특한 리더십 스타일은 Nvidia의 조직 구조에도 반영됩니다. 그는 40명 이상의 직속 보고자를 두고 운영하며, "군대"와 유사한 전통적인 계층적 모델을 피합니다. 대신 그는 Nvidia를 개인이 다양한 "모듈" 또는 기능을 관리하는 "컴퓨팅 스택"으로 봅니다. 직함은 전문성보다 부차적이며, "해당 모듈을 가장 잘 운영하는" 사람이 "지휘자(pilot in command)"가 됩니다.

"미션이 보스"인 이러한 더 평탄하고 분산된 정보 아키텍처는 중요한 정보가 "상당히 빠르게 많은 다른 사람들에게", 종종 팀 수준에서, 심지어 신입 사원에게도 전파된다는 것을 의미합니다. 이것은 모두가 동시에 학습하도록 보장하며, 특권적인 정보 접근이 아닌, 추론하고 기여하는 능력에 기반하여 개인에게 권한을 부여합니다. 미션에 기반하여 팀이 연결되는 이러한 유기적이고 신경망과 유사한 접근 방식은 일년에 두 번의 주요 제품 사이클을 출시하는 것과 같은 극도의 민첩성과 신속한 실행을 가능하게 합니다 – 이는 다른 대형 기술 기업들에게는 거의 상상할 수 없는 위업입니다.

핵심 통찰:

• 컴퓨팅 스택으로서의 회사: 조직 아키텍처를 일반적인 계층적 모델이 아닌, 구축 중인 제품을 반영하도록 설계하라.
• 지침 원칙으로서의 미션: 엄격한 부서별 사일로 외부에서 협업을 촉진하면서 특정 미션 중심으로 교차 기능 팀에 권한을 부여하라.
• 정보의 민주화: 중요한 정보를 광범위하고 신속하게 전파하여 권력 불균형을 줄이고 더 빠르고 집단적인 의사 결정을 가능하게 하라.

"당신은 기회 근처에 자리 잡기를 원할 것입니다. 그렇게 완벽할 필요는 없습니다. 나무 가까이에 자신을 위치시키고 싶다는 것을 알고 있을 겁니다. 사과가 땅에 떨어지기 전에 잡지 못하더라도, 당신이 그것을 가장 먼저 주운 사람이라면 충분합니다. 지금 당장 기회에 가까이 자신을 위치시켜야 합니다." - Jensen Huang