엔비디아 CEO “AI는 새로운 글로벌 인프라…기업마다 자체 AI 갖게 될 것”

젠슨 황 AI를 전기와 인터넷 잇는 글로벌 인프라로 규정

젠슨 황 엔비디아 최고경영자가 인공지능을 전기와 인터넷에 이어 전 세계 산업을 움직이는 새로운 인프라로 규정했다. 앞으로 개별 기술기업뿐 아니라 모든 기업과 국가가 AI를 직접 활용하는 주체로 전환하고, 기업마다 자체 데이터와 업무 환경에 맞춘 프라이빗 AI와 맞춤형 모델을 구축하게 될 것이라는 전망도 내놨다.

황 CEO는 15일 미국 샌프란시스코에서 열린 세일즈포스 연례행사 드림포스에 참석해 마크 베니오프 세일즈포스 CEO와 대담했다. 그는 전기가 모든 것을 작동하게 만들었고 인터넷이 무엇이든 찾을 수 있게 했다면, 이제 AI가 전 세계에 걸친 인프라 계층으로 자리 잡으면서 지식을 활용하고 실제 행동까지 수행하는 단계로 발전하고 있다고 말했다. 엔비디아는 이날 AI를 단순한 소프트웨어 기능이 아닌 기업과 국가 단위의 기반시설로 설명했다.

황 CEO는 “모든 기업, 모든 엔터프라이즈, 모든 국가가 AI 기업이 될 것”이라며 기업의 업무 구조 역시 AI 에이전트를 중심으로 빠르게 바뀔 것으로 예상했다. AI를 외부 서비스로 사용하는 데 그치지 않고 각 기업이 보유한 데이터와 전문지식을 기반으로 자체 모델을 만들고, 이를 기존 업무 시스템과 결합하는 형태가 일반화될 것이라는 설명이다.

AI 안전과 혁신 속도는 양자택일 아니라는 입장

최근 AI 업계에서 제기되고 있는 개발 속도 조절 문제에 대해서도 입장을 밝혔다. 황 CEO는 안전을 AI 개발에서 가장 우선해야 할 요소로 꼽으면서도 이를 기본적으로 공학적으로 해결해야 하는 문제라고 설명했다.

제품이나 서비스의 기능과 성능, 안전성에 확신하지 못한다면 출시해서는 안 되며, 개발 과정에서 시스템이 통제를 벗어나거나 제품이 안전하지 않다고 판단되는 상황이 발생하면 일단 개발을 멈춘 뒤 문제를 해결해야 한다는 것이다. 반대로 안전 문제를 이유로 산업 전체의 혁신 속도를 일괄적으로 늦추는 방식에는 선을 그었다.

그는 혁신 속도와 안전한 제품 가운데 하나를 선택해야 한다는 식의 접근 자체가 잘못됐다고 주장했다. 기업이 가능한 한 빠르게 기술을 발전시키면서도 제품 출시 단계에서는 기능과 안전성을 검증할 수 있으며, 문제가 발생했을 때 개별 기업이 개발을 중단하고 바로잡는 방식으로 두 목표를 동시에 달성할 수 있다는 설명이다. 엔비디아가 공개한 드림포스 발언에서도 황 CEO는 안전을 최우선 과제로 표현하면서 혁신과 속도, 안전한 제품을 동시에 추구할 수 있다고 강조했다.

폐쇄형 모델 토큰 사용 1년 만에 25배 증가

황 CEO는 최근 AI 사용량이 폭발적으로 증가하고 있다는 점도 강조했다. 지난 1년 동안 폐쇄형 AI 모델에서 생성되는 토큰 규모가 약 25배 증가했으며, 증가분 상당 부분이 최근 6개월 사이 집중됐다고 밝혔다. 기업의 실제 업무에 생성형 AI와 추론형 AI가 빠르게 투입되면서 모델 호출량과 추론 작업량이 동시에 늘어나고 있다는 설명이다. 드림포스 현장 보도에서도 황 CEO는 폐쇄형 모델의 토큰 소비량이 1년 동안 25배 증가했다고 밝혔다.

동시에 오픈 모델의 비중도 크게 확대됐다. 황 CEO에 따르면 지난해 초 약 30% 수준이었던 오픈 모델 비중은 현재 약 70%까지 올라왔다. 폐쇄형 상용 모델의 사용량이 빠르게 증가하는 가운데 기업들이 자체 AI를 구축하려는 움직임까지 확산되면서 오픈 모델 활용도 함께 커지고 있다는 것이다.

황 CEO는 이 같은 변화가 서로 모순되는 현상이 아니라고 설명했다. 기업들은 OpenAI나 Anthropic 등 외부에서 제공하는 폐쇄형 모델을 적극적으로 사용하면서도, 회사 내부의 데이터와 업무방식에 특화된 AI가 필요한 영역에서는 오픈 모델을 기반으로 자체 시스템을 구축하고 있다는 것이다.

세일즈포스 자체 AI 모델 Koa도 공개

이날 행사에서는 기업이 자체 AI를 구축하는 사례도 함께 공개됐다. 세일즈포스와 엔비디아는 세일즈포스의 첫 CRM 추론 모델인 Koa를 발표했다. Koa는 엔비디아의 오픈 모델인 Nemotron 3 Super를 기반으로 세일즈포스가 자체 데이터를 활용해 후처리 학습한 모델이다.

세일즈포스는 모델의 가중치를 직접 관리하고 자사 인프라에서 Koa를 운영한다. 회사 측은 고객 데이터가 모델 훈련이나 추론 과정에 사용되지 않는다고 밝혔다. 제조, 금융서비스, 의료, 여행 등 14개 이상의 산업에서 발생할 수 있는 기업 업무 상황을 반영한 합성 데이터를 학습에 활용했다. 현재 Koa는 세일즈포스 내부에서 운영되고 있으며 10월부터 일부 고객사를 대상으로 Agentforce에서 선택 가능한 모델 형태의 시험 운영에 들어갈 예정이다. 미국 지역의 일반 제공은 2026년 겨울로 예정돼 있다.

황 CEO가 설명한 기업별 자체 AI 구축은 이와 같은 구조를 가리킨다. 기업이 모든 업무를 하나의 범용 AI 모델에 의존하기보다 외부 모델과 자체 모델을 함께 사용하고, 민감한 데이터나 특정 산업의 전문업무는 회사가 직접 통제할 수 있는 AI에 맡기는 방식이다.

AI가 기존 소프트웨어 없애는 대신 활용 방식 바꿀 것

황 CEO는 AI가 기존 소프트웨어 산업 자체를 없앨 것이라는 주장에도 동의하지 않았다. AI가 기존 소프트웨어를 대체하기보다는 소프트웨어 위에 새로운 에이전틱 계층을 형성하고, 사람이 기존 프로그램을 직접 조작하던 방식에서 AI가 사용자의 의도를 이해한 뒤 필요한 소프트웨어를 대신 활용하는 구조로 바뀔 것이라는 설명이다.

기업용 소프트웨어에서도 사용자가 여러 화면과 메뉴를 직접 오가며 업무를 처리하는 대신 AI 에이전트가 CRM, 고객지원, 마케팅, 영업, 사내 데이터 등의 시스템을 연결해 작업을 실행하는 방향으로 변화하고 있다. 엔비디아 역시 세일즈포스의 영업, 서비스, 마케팅, 운영 시스템을 사용하고 있으며 고객지원 업무에서 Agentforce를 시험하고 있다고 밝혔다.

황 CEO는 AI가 최근 연구실 수준의 기술을 넘어 실제 업무에서 유용하게 사용할 수 있는 단계로 빠르게 넘어오고 있다고 말했다. 현재 도입한 AI가 기대했던 수준에 미치지 못하더라도 기술 자체를 포기해서는 안 되며, 기업들이 실제 업무에 AI를 지속적으로 적용하면서 경험을 축적해야 한다고 강조했다.

그는 AI 도입 속도가 앞으로 기업의 생산성과 경쟁 방식에 직접 영향을 미칠 것으로 내다보면서 기업들이 적극적으로 AI를 활용해야 한다고 당부했다. AI가 기존 소프트웨어를 없애는 기술이 아니라 기존 시스템과 데이터를 더 효과적으로 사용할 수 있도록 만드는 새로운 계층이며, 기업과 산업, 국가가 자체 AI 역량을 갖추는 흐름이 더 빠르게 확산될 것이라는 전망이다.