메뉴 보기
국내 인공지능(AI) 스타트업 업스테이지와 AI 반도체를 만드는 퓨리오사AI, 포털 다음 운영사 AXZ가 AI 인프라와 모델, 서비스를 모두 국산 기술로 구축하는 ‘풀스택 소버린 AI’를 위해 힘을 합친다. 국산 거대언어모델(LLM)을 국산 신경망처리장치(NPU)에서 구동해 AI 검색 서비스를 제공하는 것을 첫 상용화 사례로 제시했다.
김성훈 업스테이지 대표와 백준호 퓨리오사AI 대표, 이건수 AXZ 대표는 15일 온라인 대담을 통해 이런 내용의 소버린 AI 상용화 전략을 공개했다. 퓨리오사AI의 NPU ‘레니게이드(RNGD)’를 활용해 업스테이지의 LLM ‘솔라’를 탑재한 뒤 다음의 ‘AI 오버뷰’ 서비스를 제공하는 식이다. 각 사는 AI 모델과 반도체, 서비스 기업이 협력해 소버린 AI 생태계를 상용화했다는 점에서 의미가 크다고 평가했다.
다음의 AI 오버뷰는 이용자가 검색하면 검색엔진이 관련 문서를 찾고, 솔라가 이를 요약해 제공하는 방식으로 작동한다. 경쟁력으로는 ‘최신성’을 꼽았다. 이 대표는 “LLM의 고질적인 환각(할루시네이션) 현상을 제어해 정확한 최신 정보만 전달할 수 있도록 하네스 엔지니어링을 고도화했다”고 설명했다.
퓨리오사AI는 레니게이드 칩을 활용해 솔라의 추론을 가속한다. 백 대표는 이 칩을 통해 엔비디아 그래픽처리장치(GPU) ‘H200’과 대등한 성능을 갖추면서도 절반가량 추론 비용을 절감할 수 있다고 설명했다. 백 대표는 “AI 서비스가 확대될수록 토큰 사용량이 급격히 증가하는데 NPU를 활용하면 전성비(전력 대비 성능)와 가성비(가격 대비 성능) 측면에서 GPU 대비 유리하다”고 말했다.
업스테이지는 솔라 활용처를 넓히는 데 의미를 뒀다. 김 대표는 AI 모델이 많이 쓰일수록 품질이 높아지고, 다시 사용량이 많아지는 선순환 구조가 형성된다고 설명했다.
