[서울타임즈뉴스 = 최남주 기자] AI 산업의 무게중심이 ‘학습’에서 ‘추론’으로 빠르게 이동하는 가운데 국내외 주요 기업들이 차세대 AI 데이터센터 시장 선점을 위한 협력에 나섰다. SK텔레콤과 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온이 손잡고 고효율 AI 추론 인프라 구축에 본격 착수하면서 데이터센터 구조 자체를 바꾸는 전환점이 될지 주목된다.

9일 관련업계에 따르면 SK텔레콤은 최근 Arm, 리벨리온과 AI 인프라 혁신을 위한 전략적 업무협약(MOU)을 체결했다. 이번 협약은 AI 서비스 확산에 따라 급증하는 추론 수요에 대응하고, 전력 효율과 비용 경쟁력도 동시에 확보하기 위한 목적이다.

AI 산업은 그동안 대규모 모델을 학습시키는 ‘트레이닝’ 중심으로 발전했다. 하지만 최근에는 실제 서비스 환경에서 AI를 활용하는 ‘추론’이 핵심 경쟁력으로 떠오르고 있다. 특히 추론은 24시간 지속적으로 운영되는 특성상 전력 효율이 곧 서비스 비용과 직결된다. 이에 따라 기존 GPU 중심 구조에서 벗어나 추론에 특화된 반도체 아키텍처 필요성이 커지고 있다.

이번 협력의 핵심은 Arm의 ‘AGI CPU’와 리벨리온의 AI 추론 전용 칩 ‘리벨카드’를 결합한 서버 솔루션이다. CPU가 데이터 입출력, 네트워크 처리, 작업 스케줄링 등 범용 연산을 담당하고, NPU가 AI 추론 연산을 전담하는 ‘이종 컴퓨팅’ 구조를 구현해 효율성을 극대화하는 방식이다. 이는 기존 GPU 중심 구조 대비 전력 소비를 줄이면서도 동일한 수준 이상의 성능을 구현할 수 있다는 점에서 주목받고 있다.

특히 Arm AGI CPU는 Arm이 창립 이후 처음으로 데이터센터용 프로세서를 직접 설계·생산하며 AI 시대를 겨냥해 내놓은 전략 제품이다. 여기에 리벨리온의 리벨카드는 대규모 언어모델 기반 추론에 최적화된 NPU로, 고성능과 저전력 특성을 동시에 확보했다는 평가를 받고 있다.

양사는 글로벌 행사에서 해당 칩 조합을 기반으로 대형 언어모델을 활용한 에이전틱 AI 서비스를 실시간으로 시연하며 상용화 가능성을 입증한 바 있다. 이번 협력을 통해 이 기술이 실제 데이터센터 환경에서 검증 단계에 들어가게 된 것이다.

SK텔레콤은 이 솔루션을 자사 AI 데이터센터에 적용해 성능과 안정성을 검증할 계획이다. 나아가 자체 개발한 AI 파운데이션 모델 ‘A.X K1’을 해당 인프라 위에서 운영하는 방안도 검토하고 있다. 이를 통해 인프라와 모델을 결합한 ‘풀스택 AI’ 경쟁력을 확보하겠다는 전략이다.

통신업계는 이번 협력이 단순한 기술 제휴를 넘어, AI 데이터센터 시장의 경쟁 구도를 재편할 가능성이 큰 것으로 평가하고 있다. 글로벌 빅테크 중심의 GPU 의존 구조에서 벗어나, 보다 효율적인 추론 중심 인프라로 전환하는 흐름을 가속화할 수 있기 때문이다.

SKT 이재신 AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 말했다.

에디 라미레즈(Eddie Ramirez) Arm 클라우드 AI 사업부 GTM 부사장은 “AI 추론의 급속한 성장은 대규모 배포에 최적화된 새로운 데이터센터 인프라 수요를 촉진하고 있다”며, “SKT, 리벨리온과 같은 파트너는 Arm AGI CPU를 구축하고 AI 추론 인프라를 현대화하는 데 있어 중요한 역할을 하고 있다”고 전했다.

리벨리온 오진욱 CTO는 “리벨리온은 압도적인 성능과 전력 효율을 갖춘 ‘리벨카드’와 풀스택 소프트웨어 경쟁력을 바탕으로 차세대 AI 데이터센터를 지탱하는 핵심 축을 담당하게 됐다”며, “AI 특화 인프라 구축을 위해 각 분야 전문가들이 원팀으로 뭉친 이번 협력은 업계에서도 매우 유의미한 선례가 될 것으로 기대한다”고 강조했다.