마이크로소프트, 자체 AI 칩 ‘마이아’ 기가와트급 배치 추진…엔비디아 의존도 축소

마이크로소프트, 자체 AI 칩 ‘마이아’ 기가와트급 배치 추진…엔비디아 의존도 축소

마이크로소프트가 엔비디아에 대한 의존도를 줄이고 인공지능(AI) 운영 비용을 절감하기 위해 자체 개발한 AI 칩 ‘마이아(Maia)’를 데이터센터에 대규모로 도입한다. 미국 언론 보도에 따르면 마이크로소프트는 2027년부터 차세대 AI 칩 ‘마이아 300’을 도입해 여러 기가와트(GW) 규모로 확대할 계획이다.

마이아 300은 AI 모델이 실제 답변을 생성하는 추론 작업에 특화된 칩이다. 마이크로소프트는 마이아 300이 주요 그래픽처리장치(GPU) 기반 시스템보다 메가와트(MW)당 토큰 처리량을 40% 더 높일 수 있을 것으로 기대하고 있다. 같은 전력으로 더 많은 AI 응답을 만들어낼 수 있다는 의미다.

나델라 CEO, 자체 반도체에 대한 가장 큰 베팅

사티아 나델라 마이크로소프트 최고경영자(CEO)는 12일 자신의 X 계정을 통해 “오늘 우리는 자체 반도체에 대한 가장 큰 베팅을 발표한다”고 밝혔다. 그는 마이아를 마이크로소프트 자체 제품과 서비스를 위한 “주력 추론 시스템”으로 삼겠다고 강조했다.

스콧 거스리 마이크로소프트 클라우드·AI 부문 총괄 부사장은 공식 블로그를 통해 “초지능 시대로 접어들면서 마이크로소프트는 인프라의 새로운 단계에 들어서고 있다”고 밝혔다. 그는 마이아 300을 긴 맥락의 추론과 지연 시간에 민감한 대화, 여러 단계를 거치는 에이전트 작업을 위해 설계한 “완전한 지능형 시스템”이라고 소개했다. 마이아 200으로 자체 AI 모델을 운영하며 얻은 경험이 마이아 300 설계에 직접 반영됐다는 설명이다.

알리스테어 스피어스 마이크로소프트 총괄 매니저는 “우리가 가진 전력을 더 잘 활용하고 더 나은 성능을 낼 수 있는 새로운 아키텍처가 필요하다”고 말했다.

TSMC 2나노급 공정에 HBM4 탑재

마이아 300은 마이크로소프트의 3세대 AI 가속기다. 연산 칩렛은 TSMC의 N2P 공정으로 생산되며, 연산과 메모리 컨트롤러, 입출력(I/O)을 각각 별도 칩렛으로 나눈 구조를 채택했다. 고대역폭메모리(HBM)는 차세대 제품인 HBM4 8개 스택을 탑재했다. HBM4는 SK하이닉스와 삼성전자, 마이크론이 공급 경쟁을 벌이고 있는 제품이다.

마이크로소프트는 대규모 추론 시스템에서는 연산 능력 자체보다 데이터를 효율적으로 옮기는 것이 점점 더 큰 병목이 되고 있다고 설명했다. 이에 따라 마이아 300은 데이터를 연산 장치 가까이에 두는 소프트웨어 정의 데이터플로 구조를 적용했고, AI가 직접 커널을 최적화해 칩 활용도를 높이도록 했다. 개선된 MXFP4 저정밀 연산 방식도 지원해 KV 캐시 등에 필요한 메모리를 줄이고 더 긴 맥락을 처리할 수 있도록 했다.

항목	마이아 200	마이아 300
공정	TSMC 3나노	TSMC N2P
메모리	HBM3E 216GB	HBM4 8스택
메모리 대역폭	초당 7TB	초당 18TB
열설계전력	750W	950W

랙 단위로는 가속기 96개를 하나의 랙에 넣어 마이아 200 대비 랙당 가속기 수를 두 배로 늘렸다. 랙 하나의 전력은 167킬로와트(kW), 전체 HBM 용량은 27.6TB, 총 메모리 대역폭은 초당 1.7페타바이트(PB)에 이른다. 마이크로소프트는 이 구성으로 랙당 토큰 처리량이 마이아 200 랙보다 최대 7배 많아진다고 설명했다. 가속기와 랙은 이더넷 기반의 자체 AI 전송 프로토콜로 연결되며, 단일 랙에서 데이터센터 전체로 확장할 수 있다.

마이아 300은 메모리 사용량이 많은 추론 작업과 긴 맥락의 추론, 여러 단계를 거치는 AI 에이전트, 에이전트 기반 코딩 도구 등에 투입된다. 의료진의 행정 부담을 줄이기 위한 임상 AI 비서 ‘드래곤 코파일럿’의 확장에도 활용될 예정이다. 마이크로소프트는 샌프란시스코에서 열리는 연례 행사 ‘이그나이트 2026’에서 세부 내용을 추가로 공개할 계획이다.

추론은 자체 칩으로, 학습은 엔비디아와 AMD로

마이크로소프트는 2023년 첫 마이아 칩을 공개했고, 올해 1월 2세대인 마이아 200을 내놓았다. 마이아 200은 현재 마이크로소프트 코파일럿과 오픈AI 모델 등 실제 서비스 작업을 처리하고 있으며, 미국과 유럽, 호주 데이터센터에 배치되고 있다.

마이아 200은 아이오와주 디모인 인근 미국 중부 리전에서 처음 가동됐고, 애리조나주 피닉스 인근 리전이 뒤를 이었다. 깃허브 코파일럿과 마이크로소프트 파운드리도 연내 마이아 200 기반으로 운영될 예정이다.

마이크로소프트에 따르면 마이아 200은 팀즈와 코파일럿 등의 AI 기능에서 주요 GPU 인프라보다 와트당 최대 1.7배 많은 토큰을 처리한다. 나델라 CEO는 지난 7월 마이아 200이 기존 최신 하드웨어보다 달러당 성능이 30% 높다고 밝힌 바 있다. 마이크로소프트는 1월 마이아 200 출시 당시 4비트 부동소수점(FP4) 성능이 아마존 3세대 트레이니엄의 3배이며, 8비트(FP8) 성능은 구글 7세대 TPU를 앞선다고 소개했다.

이번 전환은 추론 작업에 초점이 맞춰져 있다. 마이크로소프트는 대형 AI 모델 학습에는 계속 엔비디아와 AMD 칩을 활용할 계획이다. 구글의 텐서처리장치(TPU)나 아마존의 트레이니엄과 달리 마이아는 현재 애저 외부 고객에게 임대 형태로 제공되지 않는다.

엔비디아 약세, 마이크로소프트 상승

발표 당일 엔비디아 주가는 장중 1%대 하락세를 보였다. 마이크로소프트는 엔비디아의 최대 고객 가운데 하나로 꼽힌다. 반면 마이크로소프트 주가는 0.9% 오른 채 거래를 마쳤다.

마이크로소프트는 엔비디아와의 협력도 이어간다. 애저에서는 오픈AI와 앤트로픽의 AI 모델이 엔비디아 GPU 위에서 구동되고 있으며, 대형 모델 학습에도 엔비디아 칩이 계속 쓰인다. 구글과 아마존 역시 각각 TPU와 트레이니엄을 앞세워 GPU 대안을 키우고 있어, 빅테크 전반에서 자체 칩 비중을 늘리는 흐름이 이어지고 있다.

이날 뉴욕증시에서는 중국 창신메모리테크놀로지(CXMT)의 차세대 D램 기술 진전 소식에 메모리 반도체주가 약세를 보이며 나스닥 종합지수가 0.44% 하락했다. 마이크론은 4%, 샌디스크는 6%가량 떨어졌고, AMD도 장중 3%대 하락세를 보였다.

마벨 테크놀로지도 마이아 관련 종목으로 주목받고 있다. 웨드부시증권의 맷 브라이슨 애널리스트는 앞서 마벨과 TSMC를 마이아 300 상용화의 직접적인 수혜 기업으로 꼽은 바 있다. 그는 다만 엔비디아가 부품 공급을 확보하는 데 탁월한 역량을 보여왔다며, 마이아 300이 단기적으로 엔비디아에 주는 경쟁 압력은 크지 않을 것으로 봤다.