삼성SDS가 국산 신경망처리장치(NPU)를 클라우드에서 빌려 쓸 수 있는 기업용 인공지능(AI) 인프라 서비스를 선보였다. AI 추론 시대에 전력·비용 효율성이 높은 NPU 수요가 늘어날 것에 대응해 서비스 선택지를 넓힌 것으로 풀이된다.
삼성SDS는 국내 AI 반도체 스타트업 퓨리오사AI의 2세대 NPU ‘레니게이드(RNGD)’를 기반으로 한 서비스형 NPU(NPUaas)를 삼성 클라우드 플랫폼(SCP)에 탑재해 출시했다고 20일 밝혔다. NPU는 AI 연산을 효율적으로 처리하도록 설계된 전용 프로세서다. 대규모 병렬 연산을 통해 AI 모델 학습 등에 활용되는 그래픽처리장치(GPU)와 달리 NPU는 이미 학습된 AI 모델이 서비스에서 실행하는 추론 작업을 고효율로 처리하는 데 특화됐다.
AI 산업이 모델을 만드는 학습 단계에서 이용자에게 서비스하는 추론으로 이동하면서 NPU 중요성도 커지고 있다. 특정 서비스에서는 GPU보다 전력과 운영 비용을 줄일 수 있어 AI 서비스 수익성을 높일 대안으로 주목받는다. 퓨리오사AI의 레니게이드는 답변 생성과 문서 분석, 이미지 판별 등 AI 추론 작업에서 GPU보다 전력 효율성과 비용 경쟁력을 높였다고 회사는 설명했다.
서비스 이용 기업들은 NPU 서버를 직접 구매하거나 자체 데이터센터에 설치하지 않아도 필요한 만큼 구독형으로 사용할 수 있다. 기업의 수요와 데이터 규모에 따라 NPU를 1장, 2장, 4장, 8장 등 원하는 단위로 선택할 수 있어 스타트업부터 대기업까지 AI 서비스 규모에 맞게 연산 자원을 구성할 수 있다. 삼성SDS는 NPUaaS를 SCP의 소버린 클라우드 환경에서 제공해 엄격한 보안과 데이터 관리 규제를 적용받는 공공기관도 이용할 수 있도록 지원하기로 했다.
삼성SDS는 기존 서비스형 GPU(GPUaaS)에 이어 NPU 기반 연산 자원까지 서비스 범위를 넓힘에 따라 고객의 AI 인프라 선택권을 확대하고, 국산 AI 반도체 확산과 소버린 AI 생태계 구축에도 기여할 것으로 보고 있다.