삼성전자는 세계 최초로 ‘HBM-PIM’을 개발하며 ‘반도체 초격차’를 이어간다. HBM-PIM은 메모리와 인공지능(AI) 프로세서를 하나로 결합한 반도체다. 이 반도체를 AI시스템에 탑재할 경우 기존대비 성능을 2배가량 끌어올릴 수 있다.
박광일 삼성전자 메모리 사업부 상품기획팀장은 17일 “HBM-PIM은 AI 가속기의 성능을 극대화 시킬 수 있는 업계 최초의 인공지능 맞춤형 PIM 솔루션”이라며 “고객사들과 협력을 강화해 PIM 에코 시스템을 구축해 나갈 것”이라고 밝혔다.
PIM(Processing-in-Memory)은 메모리 내부에 연산 작업에 필요한 프로세서 기능을 더한 차세대 신개념 융합기술이다. 삼성전자는 이 기술을 활용해 HBM2 Aquabolt에 AI 엔진을 탑재한 HBM-PIM을 개발했다. HBM2 Aquabolt는 2018년 1월 삼성전자가 양산한 2세대 고대역폭 메모리 반도체로 슈퍼컴퓨터(HPC)와 AI 등 초고속 데이터 분석에 활용된다.
삼성전자에 따르면 AI 시스템에 HBM-PIM을 탑재할 경우, 기존 HBM2를 이용한 시스템 대비 성능은 약 2배 이상 높아지는 반면 시스템 에너지는 70% 이상 감소된다. 또 기존 HBM 인터페이스를 그대로 지원해 HBM을 이용할 때 하드웨어·소프트웨어의 변경 없이 HBM-PIM을 통해 강력한 AI 가속기 시스템을 구축할 수 있다.
HBM-PIM은 현재 대부분의 컴퓨터에서 사용하는 ‘폰 노이만 구조’의 한계를 극복하기 위해 개발됐다. 폰 노이만 구조는 CPU(중앙처리장치)가 메모리로부터 명령어를 불러와 실행한 뒤 결과를 다시 기억장치에 저장하는 작업을 순차 진행하는 방식이다. 이 과정에서 CPU와 메모리간 주고받는 데이터가 많아지면 작업처리가 지연되는 현상이 생긴다.
삼성전자는 이를 극복하기 위해 메모리 내부의 각 뱅크에 인공지능 엔진을 장착하고 병렬처리를 극대화해 성능을 높였다. 또 HBM-PIM은 메모리 내부에서 연산처리가 가능해 CPU와 메모리간 데이터 이동이 줄어들어 AI 가속기 시스템의 에너지 효율을 높일 수 있다.
삼성전자는 이기술을 D램 공정에 접목시켜 HBM-PIM을 제품화 하는데 성공하고 반도체 분야 세계 최고권위 학회인 ISSCC에서 논문을 공개했다.
삼성전자는 상반기내 다양한 고객사들의 AI 가속기에서 HBM-PIM을 탑재해 테스트 검증을 완료할 예정이다. 또 고객사들과 PIM 플랫폼의 표준화와 에코 시스템 구축을 위해 협력을 강화해 나갈 계획이다.
릭 스티븐스 미국 아르곤 국립 연구소 CELS(컴퓨팅, 환경 및 생명과학) 연구실장은 “HBM-PIM은 AI 응용을 위한 성능과 에너지 효율면에서 놀라운 성과”라며 “HBM-PIM 시스템 평가를 위해 앞으로도 삼성전자와 지속적인 협력을 기대한다”고 말했다.
