메모리 반도체 1위 삼성전자가 차세대 반도체 기술로 업계를 선도하고 있다. 인간의 뇌처럼 학습해 판단하는 ‘초거대 AI(인공지능)’를 수행할 혁신적인 기술을 확보해 글로벌 ‘초격차’를 유지하겠다는 계획이다.
삼성전자는 20일 자사 블로그에 ‘삼성전자 반도체, 차세대 AI를 위한 첨단 메모리 기술 공개’라는 제목으로 게시글을 올려 이 같은 내용을 공유했다.
삼성전자는 최근 연산 기능을 갖춘 차세대 메모리반도체인 PIM(Processing-In-Memory) 기술을 활용한 메모리 솔루션(HBM-PIM)을 확보했다. PIM은 프로세서가 수행하는 데이터 연산 기능을 메모리 내부에 구현한 기술이다. 이를 활용하면 메모리 내부에서 연산 처리가 가능해 CPU(중앙처리장치)와 메모리 간 데이터 이동이 줄어든다. AI 가속기 시스템의 성능과 에너지 효율을 획기적으로 높일 수 있다.
삼성전자가 AMD와 협업으로 GPU(그래픽처리장치) 가속기 카드에 HBM-PIM 메모리를 탑재하고 실험한 결과, HBM-PIM을 활용하지 않은 기존 GPU 가속기 대비 성능은 평균적으로 약 2배 증가했고 에너지 소모는 약 50% 감소했다. HBM-PIM을 통해 현재 데이터센터들이 직면하고 있는 메모리 용량과 대역폭 한계로 인한 병목 현상을 개선하고, 전력량도 절감할 수 있을 것으로 기대된다. 삼성전자는 이를 지원할 수 있는 소프트웨어를 다음달 공개할 예정이다.
삼성전자는 고용량 AI 모델을 위한 CXL(Compute Express Link) 기반의 PNM(Processing-near-Memory) 솔루션 개발에도 나서고 있다. CXL은 컴퓨팅 시스템에서 사용하는 인터페이스다. 프로세서와 함께 사용하는 가속기와 메모리를 보다 효율적으로 사용할 수 있게 하며 메모리 용량 확장도 용이하게 해준다. 일반 컴퓨팅 시스템에서는 D램 용량을 늘려 데이터 처리량을 늘리려면 CPU를 새롭게 증설해야 한다. 반면 CXL은 기존 여러 인터페이스를 하나로 통합해 각 장치 간 직접 통신을 가능하게 한다.
삼성전자가 개발한 CXL D램은 대용량 SSD(신규 솔리드스테이트드라이브)에 적용되는 인터페이스와 폼팩터를 활용한다. CPU 추가 증설 없이 D램의 용량을 획기적으로 늘릴 수 있다. 또 PIM처럼 연산 기능을 메모리 옆에 위치시켜 CPU-메모리 간 병목 현상을 줄이고 시스템 성능을 개선할 수 있다.
삼성전자는 최근 미국에서 열린 ‘삼성 테크 데이’ 행사에서 업계 최초로 CXL 인터페이스 기반의 PNM 기술을 공개했다.
박철민 삼성전자 메모리사업부 신사업기획팀장(상무)은 “HBM-PIM 클러스터 기술은 업계 최초의 거대 규모 인공지능 분야 맞춤형 메모리 솔루션”이라며 “통합 소프트웨어 표준화 과정을 거쳐 CXL-PNM 솔루션과도 접목해, 에너지 절감 및 탄소 배출 저감 효과를 극대화함으로써 친환경 경영에 기여할 것”이라고 말했다.
삼성전자는 1993년 메모리 시장 전체에서 1위에 등극한 이후 한 번도 선두 자리를 내준 적이 없다. 메모리 반도체의 양대 축인 D램과 낸드 역시 각각 1992년, 2002년 1위에 오른 이후 최고 자리를 유지하고 있다. 시장조사기관 옴디아에 따르면 삼성전자의 올해 2분기 D램과 낸드 시장 점유율은 각각 43.4%, 33.3%로 세계 1위를 유지했다.