엔비디아 – 골드만삭스 컨퍼런스

젠슨 황 AI는 새로운 컴퓨팅 인프라가 될 것

젠슨 황 엔비디아 최고경영자가 인공지능을 과거의 전력망이나 인터넷과 같은 새로운 글로벌 컴퓨팅 인프라로 규정하며, 2030년까지 3조~4조달러 규모의 AI 인프라 투자가 이뤄질 것이라는 기존 전망을 재확인했다. 생성형 AI의 확산과 기존 컴퓨팅 구조의 한계가 맞물리면서 데이터센터와 반도체, 네트워크, 전력 인프라를 포함한 대규모 투자 사이클이 예상보다 빠르게 진행되고 있다는 설명이다.

황 CEO는 10일 골드만삭스 Communacopia + Technology 콘퍼런스에 참석해 과거 산업혁명이 전력을 어디에서나 사용할 수 있는 인프라로 만들었고 인터넷이 정보를 어디서든 찾을 수 있는 구조를 만들었다면, AI는 어떤 질문이든 던지고 필요한 답을 즉시 얻을 수 있도록 하는 새로운 컴퓨팅 계층을 만들고 있다고 말했다.

기존 컴퓨터는 저장된 데이터를 불러오는 검색 중심의 시스템이었다. 사용자가 원하는 정보를 저장장치나 인터넷에서 찾아 보여주는 방식이 핵심이었다. 반면 생성형 AI는 사용자의 질문과 주변 맥락, 기존 선호도 등을 종합해 그 순간 필요한 답을 새롭게 만들어야 한다.

황 CEO는 이 차이가 AI 시대에 필요한 연산량을 근본적으로 바꾼다고 설명했다. 미리 저장된 데이터를 몇 개 불러오는 기존 방식과 달리 AI는 매 요청마다 결과를 생성해야 하기 때문에 훨씬 많은 컴퓨팅 자원을 지속적으로 사용하게 된다는 것이다.

그는 지난해 제시했던 2030년까지 3조~4조달러 규모의 AI 인프라 투자 전망이 당시에는 시장에서 지나치게 큰 숫자로 받아들여졌지만, 현재의 데이터센터 건설과 AI 컴퓨팅 수요를 보면 해당 전망을 향해 예상보다 빠른 속도로 움직이고 있다고 밝혔다.

무어의 법칙 한계에 시스템 전체 공동 설계 강조

AI 컴퓨팅 수요 확대와 함께 반도체 성능을 높이는 기존 방식의 한계도 엔비디아의 사업 구조를 바꾸고 있다. 황 CEO는 무어의 법칙에 의존해 개별 칩 성능을 자연스럽게 높이던 시대가 끝나가면서 알고리즘과 소프트웨어, 반도체, 네트워크, 시스템을 동시에 설계하는 공동 설계가 필수가 됐다고 설명했다.

특히 여러 개의 GPU와 CPU, 메모리, 네트워크 장비를 하나의 거대한 컴퓨팅 시스템처럼 연결하는 NVLink의 역할을 강조했다. AI 모델 규모가 커질수록 하나의 칩만으로 필요한 연산량을 처리할 수 없기 때문에 수십 개에서 수천 개의 가속기를 고속으로 연결해 하나의 시스템처럼 작동하게 만들어야 한다는 것이다.

엔비디아는 Hopper에서 Blackwell, Vera Rubin으로 이어지는 아키텍처 세대가 단순히 개별 GPU 교체에 그치지 않고 전체 AI 데이터센터에서 회사가 공급하는 영역을 계속 넓히는 방향으로 진화하고 있다고 설명했다.

황 CEO는 엔비디아가 알고리즘과 CUDA 소프트웨어, 칩, NVLink, 네트워크, 서버 랙을 함께 설계하면서 매 세대 토큰 생성 성능과 생산성을 크게 높이고 있다고 말했다. 그 결과 엔비디아가 접근할 수 있는 전 세계 데이터센터 자본지출의 범위도 계속 확대되고 있다는 설명이다.

그는 이러한 변화가 엔비디아 한 회사에만 국한되지 않는다며 AI 인프라 확대 과정에서 메모리와 파운드리, 네트워크, 전력 설비를 포함한 반도체 및 데이터센터 산업 전체의 시장 규모가 커질 것으로 전망했다.

GPU 회사 넘어 AI 공장 전체 공급

황 CEO는 엔비디아를 더 이상 단순한 GPU 제조업체로 봐서는 안 된다고 강조했다. 회사가 현재 공급하는 제품은 개별 가속기가 아니라 AI 모델을 학습하고 추론 결과를 생산하는 이른바 ‘AI 공장’ 전체에 가깝다는 설명이다.

엔비디아는 GPU와 CPU, 네트워크, NVLink, 시스템 소프트웨어를 하나의 플랫폼으로 제공하고 있으며, 클라우드 서비스 업체뿐 아니라 Dell, Supermicro, Lenovo, HP, Cisco 등 기존 기업용 IT 판매망을 통해서도 전체 AI 시스템을 공급하고 있다.

황 CEO는 고객이 엔비디아 플랫폼을 설치한 뒤 소프트웨어를 적용하면 수주 안에 AI 인프라를 가동할 수 있다는 점을 강점으로 제시했다. AI 데이터센터의 투자비가 커질수록 설비를 최대한 빠르게 실제 연산에 투입하는 것이 경제성 측면에서도 중요해지고 있다는 설명이다.

지원하는 AI 모델의 범위도 확대됐다. 그는 엔비디아 플랫폼이 OpenAI와 Anthropic뿐 아니라 Gemini, Grok, Meta의 Muse를 비롯해 폐쇄형과 개방형을 가리지 않고 주요 AI 모델을 모두 지원한다고 강조했다.

AI 수요처 역시 기존 하이퍼스케일 클라우드 사업자에서 일반 기업, 퀀트 금융회사, AI 스타트업, 네오클라우드, 국가 단위의 소버린 AI까지 확장되고 있다. 황 CEO는 AI가 하나의 글로벌 서비스만으로 구성되는 것이 아니라 국가와 지역별 데이터와 언어, 산업 특성에 맞는 형태로 지역화될 것이라고 전망했다.

내년 매출 70% 성장 자신감 재확인

엔비디아는 공급 제약에도 내년 매출이 전년 대비 70% 증가할 수 있다는 기존 전망을 유지했다. 골드만삭스 측이 공급 제한이 없을 경우 수요 증가율이 100%를 넘어선다는 최근 전망을 언급하자 황 CEO는 70% 성장률을 실제로 달성할 수 있다는 데 자신감을 나타냈다.

현재 제약은 반도체 부품 공급에만 국한되지 않는다. 데이터센터를 건설할 토지와 전력, 건물 공간까지 AI 인프라 확장의 주요 병목으로 부상하고 있다.

황 CEO는 엔비디아가 수십 년간 구축한 반도체 공급망과 파트너 네트워크를 활용해 부품 확보를 늘리는 동시에 전 세계 데이터센터 사업자와 클라우드, 네오클라우드, AI 기업을 통해 지역별 토지와 전력, 데이터센터 공간까지 추적하고 있다고 설명했다.

그는 공급망 상류에서는 회사의 구매 규모와 장기간 유지해온 부품업체 관계가 강점이며, 하류에서는 클라우드와 OEM, 네오클라우드, 국가 단위 AI 프로젝트를 모두 아우르는 판매 구조가 강점이라고 강조했다.

최근 호주에서는 여러 데이터센터 사업자들과 협력해 2027년까지 2GW 규모의 AI 컴퓨팅 인프라를 구축하는 계획도 공개했다. 황 CEO는 이 같은 지역별 프로젝트가 엔비디아의 전체 AI 플랫폼과 파트너 생태계를 활용하는 사례라고 설명했다.

순환 금융 우려 일축 컴퓨팅을 투자 가능 자산으로

AI 데이터센터 투자 과정에서 엔비디아가 고객사와 네오클라우드에 자금을 투자하고 해당 기업들이 다시 엔비디아 제품을 구매하는 구조를 두고 제기된 ‘순환 금융’ 우려도 반박했다.

황 CEO는 엔비디아가 일부 AI 기업과 데이터센터 사업자의 자금 조달을 지원하고 있지만 전체 프로젝트에서 차지하는 비중은 작다고 설명했다. 핵심은 해당 사업자들이 이미 확보한 실제 고객 계약과 컴퓨팅 수요라는 것이다.

그는 엔비디아가 투자 대상 기업에 AI 플랫폼을 공급하고 해당 기업들이 토지와 전력, 데이터센터 공간을 확보하도록 지원하면서 장기적인 AI 인프라 유통망을 구축하고 있다고 밝혔다. 특히 네오클라우드를 엔비디아 아키텍처를 각 지역에 공급하는 새로운 채널로 보고 있다고 설명했다.

황 CEO는 과거의 GPU도 오랜 기간 임대 시장에서 계속 사용되고 있다는 점을 들며 엔비디아 컴퓨팅 시스템이 장기간 수익을 창출할 수 있는 자산이라고 강조했다. 이를 단순한 IT 장비가 아니라 금융시장에서 투자와 담보의 대상이 될 수 있는 자산으로 전환하는 것이 새로운 성장 기회라는 설명이다.

실제 고객 계약이 존재하고 오래된 GPU까지 지속적으로 임대되고 있는 만큼 엔비디아가 일부 자금을 지원한다는 이유만으로 이를 순환 금융으로 규정하는 것은 적절하지 않다는 입장을 나타냈다.

코딩 다음 대형 AI 시장은 사이버보안

AI 활용 분야에서는 코딩에 이어 사이버보안을 다음 대형 시장으로 지목했다. 황 CEO는 코딩 능력이 높아질수록 소프트웨어의 취약점을 찾아내는 디버깅 능력도 자연스럽게 향상되며, 이를 공격과 방어 양쪽에 활용할 수 있다고 설명했다.

그는 취약점을 찾아내는 레드팀과 이를 수정하는 블루팀 작업을 AI가 지속적으로 수행할 수 있게 되면서 사이버보안이 AI의 다음 주요 활용처가 될 가능성이 높다고 전망했다.

엔비디아는 CrowdStrike와 협력해 Nemotron 기반 AI 모델을 사이버보안에 활용하고 있으며, Cisco와 Palantir 등과도 기업과 국가를 대상으로 한 AI 인프라와 보안 시스템을 구축하고 있다.

황 CEO는 코딩 AI가 사용자의 요청을 받을 때 작업을 수행하는 형태라면 사이버보안 AI는 시스템을 지속적으로 감시하고 취약점을 탐색해야 하기 때문에 상시적으로 컴퓨팅 자원을 사용하는 시장이 될 수 있다고 설명했다.

피지컬 AI 첫 킬러 앱은 자율주행

AI가 디지털 영역을 넘어 현실 세계를 인식하고 행동하는 피지컬 AI 분야에서는 자율주행차를 첫 번째 대형 활용처로 꼽았다.

황 CEO는 자율주행 시스템이 단순히 막대한 주행 데이터를 암기하는 방식이 아니라 처음 접하는 상황에서도 주변 환경을 이해하고 판단할 수 있는 추론 능력을 갖춰야 한다고 설명했다. 엔비디아는 이러한 방향의 자율주행 AI 플랫폼 개발을 진행하고 있으며 Tesla와 Waymo, Mercedes-Benz, Uber 등 자동차 및 모빌리티 업체들과 관련 생태계를 구축하고 있다.

자율주행 이후에는 물류센터 내부를 움직이는 자율이동로봇과 배송차량으로 적용 범위가 넓어질 것으로 전망했다. 엔비디아는 아마존과도 물류센터용 자율 시스템 분야에서 협력하고 있다.

그 다음 단계로는 물체를 집고 조작하는 산업용 로봇을 제시했다. 현재 제조 현장의 로봇은 대부분 사전에 정해진 작업을 반복하는 방식이지만, 추론 능력을 갖춘 로봇이 등장하면 대형 자동차 제조업체뿐 아니라 중소·중견 제조기업까지 자동화를 확대할 수 있다는 설명이다.

통신 분야도 피지컬 AI의 확장 영역으로 언급했다. 황 CEO는 6G를 전파를 이용해 현실 세계를 감지하고 판단하는 일종의 피지컬 AI 시스템으로 설명하며, Nokia와 함께 CUDA와 AI를 기반으로 한 AI-RAN 플랫폼을 개발하고 있다고 밝혔다.

젠슨 황 CEO는 AI 인프라 투자가 2030년까지 3조~4조달러 규모로 확대될 것이라는 기존 전망을 유지한 가운데, 내년 엔비디아 매출이 전년 대비 70% 성장할 수 있다는 자신감도 재확인했다. 공급 제약이 없다면 수요 증가율이 100%를 넘어선다는 전망 속에서 엔비디아는 부품부터 토지와 전력, 데이터센터 공간까지 공급망 전체의 확장을 추진하고 있다.