AI 진화에 '똑똑한 메모리' PIM 뜬다…삼성·SK의 다른 접근법

(서울=뉴스1) 강태우 기자 = 삼성전자(005930)와 SK하이닉스(000660)가 원활한 초거대 AI(인공지능) 구현을 위해 메모리반도체에 연산 기능을 접목하고 있다. 특히 '지능형 메모리'로도 불리는 'PIM(프로세싱인메모리)'을 각자 다른 방식으로 활용하고 있어 눈길을 끈다.

22일 업계에 따르면 삼성전자는 HBM(고대역폭메모리)에, SK하이닉스는 그래픽 D램인 GDDR에 PIM을 붙이는 방식으로 제품 연구·개발을 추진하고 있다. 이를 초거대 AI 분야 맞춤형 메모리 솔루션으로 앞세워 AI 반도체 시장에서 '게임 체인저'가 되겠다는 전략이다.

업계 관계자는 "AI 반도체의 한계를 뛰어넘기 위해 PIM 기술은 지속적으로 확대·적용될 것"이라며 "양사가 하는 방식 중 어떤 것이 맞고 틀리고가 아니라 전략이 다른 것이라고 보면 된다"고 설명했다.

이미지 등 정보를 처리하는 GPU(그래픽처리장치)는 수천개의 코어가 한꺼번에 연산을 수행한다. 방대한 양의 간단 정보를 연산 작업해야 하는 AI 시장에서 GPU는 효율적이고 없어선 안 되는 장치로 떠올랐다.

HBM과 GDDR은 GPU 주변에 탑재되는 D램의 일종이다. GPU가 더 빨리 일을 처리할 수 있도록 돕는 역할을 수행한다.

챗GPT와 같은 AI 모델이 점차 진화하고, 파라미터(외부로부터 투입되는 데이터) 사이즈가 더 커지면서 메모리 집약적 기술이 요구되고 있다. 이에 PIM이 가장 적합한 솔루션으로 주목받고 있다. PIM은 프로세서가 수행하는 데이터 연산 기능을 메모리 내부에 구현한 기술이다.

특히 PIM을 활용하면 CPU(중앙처리장치)와 메모리 간 데이터 이동이 줄어들어 AI 가속기 시스템의 성능과 에너지 효율을 높일 수 있다. 초거대 AI에서 기존 방식으로는 CPU에 부하가 걸리거나 데이터 처리 속도가 급격히 떨어질 수 있는데 PIM이 해결할 수 있다는 설명이다.

이 같은 시장 트렌드와 PIM의 장점에 주목해 반도체 업체들은 PIM을 적용한 AI 반도체를 잇달아 선보이고 있다.

삼성전자는 2021년 세계 최초로 이를 접목한 HBM-PIM을 선보였다. 지난해 10월에는 GPU 업체 AMD와 HBM 성능 테스트를 하고 상용화 작업을 진행했다. 상용화된 AMD의 GPU 'MI-100' 가속기 카드에 HBM-PIM을 탑재했다.

기존 GPU 가속기 대비 평균 성능은 2배 증가했으며 에너지 소모는 50% 감소했다. 또 삼성전자는 밀집데이터(자율주행·음성인식) 기반 AI 모델에 PIM 기술을 적용해 고객의 다양한 요구에 대응한다는 계획이다.

박광일 삼성전자 메모리 사업부 상품기획팀장은 "HBM-PIM은 AI 가속기의 성능을 극대화할 수 있는 업계 최초의 인공지능 맞춤형 PIM 솔루션"이라며 "고객사들과 지속적으로 협력을 강화해 PIM 에코 시스템을 구축해 나갈 것"이라고 밝혔다.

SK하이닉스는 지난해 2월 PIM이 적용된 첫 제품 'GDDR6-AiM(Accelerator in Memory)'을 출시했다. GDDR6-AiM는 특정 연산의 속도가 최대 16배까지 빨라지고 기존 제품 대비 에너지 소모는 80%가량 줄었다. 머신러닝, 고성능 컴퓨팅(HPC), 빅데이터 연산과 저장 등에 활용된다.

업계에 따르면 AI가 진화할수록 GPU를 구동할 때 드는 비용도 더 커지는데, GDDR에 PIM을 붙이는 방식이 상대적으로 비용 면에서 이점이 있다는 설명이다.

임의철 SK하이닉스 메모리솔루션 제품 담당 부사장은 지난 17일 서울 강남구에서 열린 'IoT 기술&비즈니스 포럼'에서 "PIM은 꽂으면 꽂는 대로 성능이 올라가서 (GDDR에 붙여도 성능을) 많이 올릴 수 있겠구나 하는 가능성을 봤다"며 "당사의 AiM은 기존 GPU 시스템 대비 퍼포먼스는 더 향상됐고 에너지는 4분의 1로 줄여준다. 특히 가격은 반값 정도로 하이퍼스케일러(대형 데이터센터 업체)의 부담을 덜어줄 것으로 본다"고 말했다.

burning@news1.kr