SK텔레콤과 영국 반도체 설계기업 ‘암(Arm)’, 국내 인공지능(AI) 반도체 스타트업 리벨리온이 AI 데이터센터 구축에 협력한다. 중앙처리장치(CPU)와 신경망처리장치(NPU)를 서버에 같이 탑재해 AI 추론 성능을 높일 계획이다.

9일 업계에 따르면 SK텔레콤, 암, 리벨리온은 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다. 암이 출시한 ‘AGI CPU’와 리벨리온이 올해 3분기 선보이는 ‘리벨카드’를 한 서버에 넣는 방식의 AI 추론 최적화 솔루션을 공동 개발하고, SK텔레콤 AI 데이터센터에서 실증하기로 했다.

두 칩을 한 서버 안에 탑재해 CPU가 데이터 처리, 시스템 운영 등 범용 연산을 담당하고, NPU는 AI 추론 연산을 전담하는 방식이다. AGI CPU는 암이 처음 생산한 데이터센터용 프로세서로 AI 추론 서비스에 최적화됐다. 리벨카드도 대규모 AI 추론에 특화한 NPU다. CPU가 시스템 ‘관제탑’ 역할을 맡아 데이터 흐름과 시스템 운영을 총괄하고, NPU가 AI 추론 연산을 전담하는 ‘이종 컴퓨팅’ 구조다.

학습보다 가벼운 연산을 반복 처리하는 추론의 경우 전력 효율성이 중요한데, 그래픽처리장치(GPU)보다 전력 효율이 높고 비용이 낮은 NPU가 추론 영역에서 부각되는 중이다.

SK텔레콤은 해당 솔루션이 적용된 서버를 자사 AI 데이터센터에 도입해 성능과 안정성을 검증한다. 자체 개발한 AI 파운데이션 모델 ‘에이닷엑스 케이원(A.X K1)’을 인프라 운영에 활용하는 방안도 검토하고 있다. 이번 협력을 통해 저전력·고효율 AI 추론 인프라를 확보하고 AI 데이터센터 사업 경쟁력을 높일 계획이다.

이재신 SK텔레콤 AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해나가겠다”고 말했다.