MS AI 인프라 오라클 계약 종료, 구형 GPU 털고 내재화 속도
MS AI 인프라 전략이 임대 의존에서 자체 데이터센터 내재화로 전환하며 오라클과의 서버 계약을 단계적으로 종료하고 있습니다. 구형 GPU 반납과 차세대 칩 중심의 재편이 클라우드 수익성과 연산 효율에 미칠 영향을 분석합니다.
목차
2023년 거대언어모델(LLM) 경쟁이 촉발되었을 때 빅테크들은 경쟁사의 데이터센터 문까지 두드렸습니다. 반면 현재의 MS AI 인프라 전략은 외부 자원 임대를 줄이고 자체 거점을 중심으로 효율을 극대화하는 정반대 방향으로 선회했습니다.
클라우드 시장에서 치열하게 맞붙는 마이크로소프트(MS)가 오라클(Oracle)의 인프라를 빌려 썼던 것은 유례없는 비상 대응이었습니다. 하지만 단기 차입에 의존하던 임시방편의 시대는 이제 막을 내리고 있습니다.
오라클 임대 계약 종료, 비상 체제의 정리
외신 보도에 따르면 마이크로소프트는 최근 몇 달간 오라클에서 임대해 온 AI 연산 자원을 차례로 축소해 왔습니다. 기존 계약 역시 추가로 갱신하지 않고 단계적으로 정리하는 수순을 밟는 것으로 알려졌습니다.
이러한 계약 종료 소식이 전해지자 시장은 즉각 반응하며 오라클 주가가 장중 한때 약 3% 하락하기도 했습니다. 양사는 지난 2023년 AI 검색과 연산 지원을 위해 손을 잡았으나 이에 대한 공식 입장은 아직 내놓지 않은 상태입니다. AI타임스 보도에서도 이번 조치가 자사 사양과 맞지 않는 구형 그래픽처리장치(GPU) 정리와 맞물려 있다고 전했습니다.
자본력이 풍부한 마이크로소프트조차 라이벌의 인프라를 빌려야 했을 만큼 초기 생성형 AI 시장의 GPU 품귀는 극심했습니다. 그러나 공급망 병목이 일부 완화되고 자체 시설이 확충되자 임대 계약을 유지할 유인이 빠르게 사라진 것으로 풀이됩니다.
구형 GPU가 부른 연산 병목과 전력 비용
마이크로소프트가 오라클 서버 반납을 결정한 기술적 배경에는 사양 불일치와 전력 효율 저하가 자리 잡고 있습니다. 초기에 임차한 장비들은 대량 공급이 가능했던 구형 엔비디아(Nvidia) 가속기 중심이었습니다.
최신 추론 및 파운데이션 모델은 초당 수십억 개의 매개변수를 교환하는 고대역폭 메모리와 인터커넥트 대역폭을 요구합니다. 구형 GPU는 절대적인 연산 속도도 뒤처지지만 무엇보다 랙(Rack) 단위 전력 대비 성능비가 크게 떨어지는 단점이 있습니다.
- 구형 아키텍처 기반 가속기는 최신 고대역폭 메모리 규격 연동에 한계를 노출합니다.
- 데이터센터 내 단위 면적당 전력 소모량은 높고 토큰 생성 효율은 낮아 운영비(OPEX)가 가파르게 상승합니다.
- 외부 클라우드를 거쳐 트래픽을 처리하는 구조는 레이턴시(지연 시간) 관리에도 불리합니다.
결국 비싼 임대료를 지불하면서 낮은 전력 대비 성능비를 감수하는 것은 장기 서비스 운영 관점에서 지속 가능하지 않다는 계산이 나온 셈입니다.
MS AI 인프라 전환 국면: 외부 임대 vs 자체 내재화
초기 생존을 위한 외주 연산 확보 단계와 현재의 비용 최적화 단계는 지향점이 완전히 다릅니다. 두 체제의 기술적, 재무적 차이는 인프라 운영 패러다임의 변화를 선명하게 보여줍니다.
| 구분 | 2023년 외부 임대 국면 | 현재 자체 내재화 국면 |
|---|---|---|
| 핵심 목표 | 공급 부족 극복 및 긴급 연산 자원 확보 | 총소유비용(TCO) 절감 및 전력 효율 극대화 |
| 인프라 구성 | 오라클 등 타사 데이터센터 내 구형 GPU | 자체 직영 데이터센터 및 차세대 가속기 |
| 수익성 구조 | 이중 마진 구조로 인한 클라우드 마진 압박 | 직접 설비 투자(CapEx)를 통한 원가 통제 |
| 아키텍처 제어권 | 제공사 표준 가상머신 및 네트워크 규격 종속 | 액체냉각 및 커스텀 가속기에 맞춘 독자 설계 |
위 비교처럼 초기 인프라 전략이 시장 진입을 위한 속도전이었다면 지금은 마진 방어를 위한 정밀 최적화로 전환되었습니다. 특히 고발열 칩셋을 효과적으로 통제하기 위한 액체냉각 기술은 직영 거점이 아니면 온전히 적용하기 어렵습니다.
이러한 인프라 내재화 움직임은 고밀도 전력 설계와 직접 맞닿아 있습니다. 대규모 클러스터를 직접 통제하는 흐름은 국내 통신 및 클라우드 기업들이 추진하는 KT클라우드 AI 데이터센터 50MW 안산 착공 사례와도 기술적 궤를 같이합니다.
자체 칩과 직영 거점 중심의 수직계열화
마이크로소프트의 최종 종착지는 MS AI 인프라 전반을 아우르는 하드웨어와 소프트웨어 런타임의 수직계열화입니다. 엔비디아의 단일 공급망에 휘둘리지 않고 자체 실리콘 생태계를 키우려는 이유이기도 합니다.
자체 가속기인 마이아(Maia) 칩셋을 도입하고 차세대 서버 설계를 데이터센터에 직접 맞추는 작업이 활발히 진행 중입니다. 이러한 구조를 갖추면 소프트웨어 스택과 하드웨어 파이프라인을 밀접하게 결합해 토큰당 연산 비용을 획기적으로 낮출 수 있습니다.
임대 서버를 반납하는 것은 단순한 계약 해지가 아니라 자체 칩 중심의 파이프라인이 성숙 단계에 접어들었음을 시사합니다. 외부 인프라 사업자에게 지불하던 이중 수수료를 줄여 클라우드 애저(Azure)의 영업이익률을 방어하겠다는 복안입니다.
IT-SUE의 시각
이번 조치는 생성형 AI 산업이 '양적 팽창기'에서 '질적 수율기'로 완전히 이동했음을 알리는 중요한 신호입니다. 서비스를 출시하기 위해 일단 작동하는 칩이라면 무엇이든 긁어모으던 광풍은 끝났습니다.
이제는 1달러당 뽑아낼 수 있는 토큰 수와 와트(Watt)당 연산 능력이 인공지능 기업의 생존을 가르는 핵심 지표가 되었습니다. 효율이 떨어지는 구형 하드웨어를 과감하게 털어내지 못하는 기업은 천문학적인 전기료와 서버 유지비에 짓눌릴 수밖에 없습니다.
마이크로소프트의 오라클 결별은 MS AI 인프라의 기술 주권을 온전히 자사 품으로 되찾아오겠다는 선언에 가깝습니다. 외부 의존을 걷어낸 자리에 맞춤형 실리콘과 고효율 인프라를 채워 넣는 이 속도전이 향후 빅테크 간 수익성 격차를 가를 결정적 분수령이 될 것입니다.
