분리형 추론 서빙 비용 절감, 엔비디아(Nvidia)와 리벨리온 NPU 동맹
분리형 추론은 프리필과 디코드를 분리해 LLM 서빙 비용과 지연을 획기적으로 낮추는 기술입니다. 고연산 프롬프트는 GPU가 맡고 순차적 토큰 생성은 효율적인 NPU가 분담해 자원 낭비를 차단합니다. 이기종 반도체 결합은 차세대 데이터센터의 핵심 표준이 될 전망입니다.
최신 글
모든글 →MDS테크 로보월드 피지컬 AI 공개, 엔비디아(Nvidia) 인프라 선점
MDS테크 로보월드 공개 행사는 단순한 로봇 전시가 아니라 엔비디아(Nvidia) 기반 피지컬 AI 인프라 선점의 신호탄입니다. 임베디드 OS와 시뮬레이션 기술을 결합해 완성형 로봇 제조사들의 필수 풀스택 플랫폼으로 자리 잡겠다는 구상입니다.
가민 티머니 연동, 애플·삼성 양분한 스마트워치 결제 흔든다
가민 티머니 연동은 단순한 교통카드 탑재를 넘어 전문 운동 기기를 일상 결제 플랫폼으로 탈바꿈시키는 생태계 락인 전략입니다. 애플워치와 갤럭시 워치가 양분하던 국내 웨어러블 간편결제 시장에서 러너들의 일상 침투율을 끌어올릴 실질적 승부수를 분석합니다.
AI 얼라인먼트와 RLHF 차이, 앤트로픽(Anthropic) 안전 원리
AI 얼라인먼트는 인공지능의 판단 기준을 인간 의도와 일치시키는 기술 체계입니다. 인간 피드백 기반 강화학습(RLHF)의 비용 한계를 극복하고 모델 자체 규범으로 정렬을 자동화하는 헌법적 AI 메커니즘을 규명합니다.
LG CNS AI 사업 영업익 1382억 견인, 금융 AX와 인프라 전환
LG CNS AI 및 클라우드 사업이 3분기 영업익 1382억 원을 이끌며 전통 SI에서 고수익 AX 전문 기업으로의 체질 전환을 입증했습니다. 금융권 수주와 대형 인프라 구축으로 실적 질적 성장을 달성한 전략을 분석합니다.
ETRI 탱고 공개, 산업용 AI 인력난 푸는 노코드 오픈소스 전략
ETRI 탱고 공개는 코딩 인력 없이도 제조 현장 실무자가 산업용 AI를 직접 배포하도록 돕는 분기점입니다. 데이터 입력부터 타깃 기기 최적화까지 MLOps 전 과정을 노코드로 자동화해 중소 제조 기업의 AI 진입 장벽과 도입 비용을 대폭 낮춥니다.
