마이크로소프트 마이아 300, 코파일럿 추론을 자체 칩에 맡긴 이유

자체 칩은 성능 경쟁의 도구가 아니라 원가 구조를 다시 짜는 도구다. 마이크로소프트 마이아 300 공개도 그렇게 읽어야 한다. 엔비디아보다 빠른지만 따지면 이 발표의 핵심을 놓치게 된다.

플래텀 보도에 따르면 마이크로소프트는 자체 AI 칩 마이아 300을 공개하고 코파일럿 추론을 맡기기로 했다. 눈여겨볼 단어는 '학습'이 아니라 '추론'이다. 마이크로소프트 마이아 300이 놓인 자리가 곧 이 회사의 고민을 말해 준다.

마이크로소프트 마이아 300, 무엇이 확인됐나

지금까지 확인된 사실은 단출하다. 필자는 이 단출함이 오히려 메시지를 선명하게 만든다고 본다.

세부 사양과 생산 물량, 배치 일정은 필자가 참고한 자료만으로는 확인하지 못했다. 그래서 이 글은 성능 수치가 아니라 구조를 다룬다. 칩의 숫자보다 그 칩이 맡은 역할이 더 많은 것을 말해 주기 때문이다.

AI 반도체 논의는 오랫동안 학습에 쏠려 있었다. 하지만 서비스가 자리를 잡으면 무게 중심은 추론으로 옮겨 간다. 학습은 투자에 가깝고, 추론은 매출원가에 가깝다.

학습은 모델을 만들 때 집중적으로 발생한다. 반면 추론은 사용자가 질문을 던질 때마다 발생한다. 코파일럿이 더 많은 제품에 들어갈수록 이 비용은 사용량을 따라 불어난다.

여기서 마이크로소프트의 계산이 드러난다. 사용자가 늘수록 비용이 따라 커지는 사업은 마진 방어가 어렵다. 그 비용의 상당 부분이 외부 칩 구매라면, 성장의 과실 일부는 공급사 몫이 된다.

범용 GPU는 여러 고객의 다양한 작업을 두루 처리하도록 만들어진다. 정해진 모델을 반복해서 돌리는 사업자에게는 쓰지 않는 기능까지 값을 치르는 셈이다. 자체 칩은 이 낭비를 줄이려는 시도라고 볼 수 있다.

두 선택지를 나란히 놓으면 마이크로소프트가 무엇을 얻고 무엇을 떠안는지 분명해진다.

표에서 필자가 주목하는 줄은 '최적화 대상'이다. 자체 칩의 경제성은 돌릴 작업이 얼마나 예측 가능한지에 달려 있다. 코파일럿은 마이크로소프트가 수요와 모델을 모두 쥐고 있는 서비스다. 첫 투입처로 코파일럿이 선택된 배경도 여기에 있을 것이다.

'의존 탈피'라는 표현은 조금 걸러 들을 필요가 있다. 필자가 보기에 이번 행보의 목표는 대체가 아니라 협상력이다. 자체 칩이라는 선택지가 생기면 구매 협상의 구도가 달라진다.

외부 고객은 사정이 다르다. 클라우드를 빌려 쓰는 기업 상당수는 엔비디아의 개발 도구에 익숙하다. 이들에게 낯선 칩으로 옮기라고 요구하기는 쉽지 않다.

반면 코파일럿은 내부 서비스다. 소프트웨어 호환 문제를 회사 안에서 풀 수 있다. 그래서 내부 추론은 자체 칩으로, 외부 판매와 학습은 GPU로 나누는 구도가 당분간 이어질 것이라는 분석이 설득력을 얻는다.

공급 측면도 빼놓을 수 없다. 최신 GPU는 메모리와 패키징 병목에 묶여 있다. 이 문제는 베라 루빈과 HBM4 품귀를 다룬 글에서 자세히 짚었다. 물량을 제때 받지 못할 위험을 줄이는 것만으로도 자체 칩은 값어치를 한다.

마이크로소프트 마이아 300은 칩 하나의 이야기로 끝나지 않는다. 칩과 서버, 클라우드, 모델, 애플리케이션을 한 회사가 함께 설계하는 구조의 한 조각이다. 각 층을 따로 사 올 때는 불가능한 조율이 가능해진다.

이 길을 가는 회사는 마이크로소프트만이 아니다. 구글과 아마존은 이미 자체 칩을 클라우드에 쓰고 있다. 애플의 움직임은 애플 AI 서버칩 전략 분석에서 다뤘다. 빅테크가 같은 방향으로 움직인다는 사실이 비용 압박의 크기를 보여 준다.

전력도 중요한 변수다. 데이터센터는 칩을 구하기 전에 전기부터 확보해야 하는 상황에 놓여 있다. 같은 전력으로 더 많은 추론을 처리하는 칩은 곧 수용 능력의 확대를 뜻한다. 이 맥락은 AI 데이터센터 전력난 글과 함께 읽으면 좋다.

물론 수직 통합이 만능은 아니다. 설계를 직접 해도 생산은 외부 파운드리에 맡겨야 한다. 의존의 대상이 칩 공급사에서 생산 능력으로 옮겨 갈 뿐이라는 지적도 타당하다.

필자는 마이아 300의 성패가 벤치마크에서 갈리지 않을 것이라고 본다. 판단 기준은 코파일럿의 수익성이 실제로 나아지는가다. 칩 발표보다 이후 실적 설명에서 추론 비용을 어떻게 언급하는지가 더 중요한 신호다.

앞으로 지켜볼 지점은 세 가지다.

특히 세 번째가 관건이다. 자체 칩은 한 번 만드는 일보다 꾸준히 이어 가는 일이 훨씬 어렵다. 세대 교체가 늦어지면 최적화의 이점은 범용 GPU의 발전 속도에 묻힌다.

엔비디아에 당장 위협이 되는 사건이라고 보지는 않는다. 다만 가장 큰 고객들이 가장 예측 가능한 작업부터 직접 처리하기 시작했다는 점은 가볍지 않다. 장기적으로는 물량이 아니라 가격 결정력의 문제로 번질 수 있다.

결국 마이크로소프트 마이아 300은 기술 선언이라기보다 재무적 선택에 가깝다. AI 서비스의 승부가 모델 성능에서 운영 원가로 옮겨 가고 있다는 신호다. 이 흐름에서 자체 칩은 선택이 아니라 대형 클라우드 사업자의 기본 조건이 되어 가고 있다.