한국 반도체 기업들, 반도체를 3차원적으로 높게 쌓아 올리는 HBM 기술을 꾸준히 연구 발전시켜 와
HBM 넘어 HBF, 차세대 저장장치, 메모리 컨트롤러, 첨단 패키징, 이어 PIM 기술까지 우리가 선점해야
[윤영호 칼럼] 과거 메모리 반도체는 시스템 반도체 기업들이 짜 놓은 거대한 틀 안에서 가격 경쟁력으로만 승부하던 값싼 부품, 이른바 '하청업체의 결과물'에 불과했다. 인텔이 중앙처리장치(CPU)를 만들어 세계를 리드하고, 마이크로소프트가 소프트웨어 생태계로 판을 깔아놓으면, 덜 중요한 메모리 부품은 표준화 과정을 거쳐 가장 저렴한 가격에 공급받는 구조였다.
당시 하청 공급업체들은 극심한 치킨게임을 벌이며 겨우 생존할 수 있는 수준의 마진만을 남겼다. 오늘날 세계를 뒤흔드는 엔비디아의 그래픽처리장치(GPU) 역시 초기에는 인텔 CPU에 장착되는 게임용 옵션 부품에 지나지 않았다.
그러나 인공지능(AI)이 확장되면서 이러한 수직적 역학 관계를 완전히 뒤집어놓았다. 대규모 데이터를 학습하고 연산하는 능력이 AI의 핵심으로 부상하면서 주도권은 CPU에서 GPU로 급격히 이동했다. 그리고 이제, 생성형 AI와 추론형 AI가 폭발적으로 진화하는 현단계에 이르러서는 인공지능의 최종 성능을 좌우하는 핵심 열쇠가 다름 아닌 '메모리 반도체'로 넘어가며 완전히 새로운 판이 짜이고 있는 것이다.
이러한 변화는 산업구조상 결코 우연이 아니다. 거대언어모델(LLM)을 기반으로 하는 AI 서비스는 입력되는 문장이 길어질수록, 데이터의 암호를 풀고 맥락을 유지하기 위한 'KV 캐시(Key-Value Cache)' 용량이 기하급수적(제곱)으로 늘어나는 특성을 가진다.
아무리 연산 속도가 빠른 GPU를 대량으로 배치하더라도, 이 엄청난 데이터를 받아줄 메모리의 대역폭과 용량이 받쳐주지 못하면 병목현상이 발생해 전체 시스템능력은 늘어날 수 없다. AI 진화속도를 따라잡기위해 막상 CPU나 GPU보다 메모리 칩이 훨씬 더 절실하게 필요한 시대가 된 것이다. 이것이 바로 고대역폭 메모리, 즉 HBM(High Bandwidth Memory)의 탄생 배경이다.
글로벌 빅테크 기업들, 한국서 HBM 구하려고 '보이지 않는 전쟁'
과거 반도체 산업을 지배했던 것은 약 2년마다 반도체 집적회로의 트랜지스터 수가 2배씩 증가한다는 '무어의 법칙'이었다. 전 세계 반도체 기업들은 같은 공간에 부품을 미세하게 배치하여 밀도를 높이고 전력 소모를 줄이는 2차원적 미세화 경쟁에 사활을 걸었다. 그러나 공정 미세화가 1나노미터(nm) 수준에 도달하면서 물리적 한계에 부딪혔다. 선폭이 원자 수준으로 좁아지면서 전자가 통제력을 잃고 밖으로 튀어나가는 양자 터널링 현상이 발생했기 때문이다. 이는 더 이상 순수한 전자공학 영역이 아니라 원자공학 영역에 가깝다.
한국 반도체 기업들은 이 유전구조적 한계를 돌파하기 위해 평면적 미세화 대신, 단층 주택을 허물고 아파트를 짓듯 반도체를 3차원적으로 높게 쌓아 올리는 HBM 기술을 꾸준히 연구 발전시켜 왔다. HBM 성능의 핵심은 'TSV(실리콘 관통 전극)' 구조에 있다. TSV는 반도체 칩을 여러 층으로 쌓을 때 층과 층 사이를 수직으로 관통하는 미세한 구멍을 뚫어 전극으로 연결하는 최첨단 패키징 기술이다.
이는 단순히 데이터가 오가는 길을 넓히는 것을 넘어, 적층된 전체 반도체에 전력을 균일하게 공급하고 작동 과정에서 발생하는 치명적인 열을 효율적으로 방출시켜 모든 층의 온도를 똑같이 유지하는 중차대한 역할을 수행한다. 단층 건물을 지을 때와 고층 빌딩을 올릴 때 공학적 패러다임이 완전히 달라야 하듯, TSV는 메모리의 한계를 공간적으로 확장한 혁명적 발상의 전환이었다.
시장의 주도권이 메모리로 넘어가면서 글로벌 빅테크 기업들이 한국에 줄을 서 HBM을 구하려는 보이지 않는 전쟁이 벌어지고 있다. 엔비디아의 젠슨 황 CEO가 한국을 연이어 방문하며 자신을 ‘K-젠슨 황’이라 불러달라고 칭하는 장면이나, AMD의 리사 수, 테슬라의 일론 머스크까지 한국산 메모리 확보를 위해 적극적인 구애의 손길을 보내는 것은 시사하는 바가 매우 크다.
AI 혁명이 진행될수록 메모리의 중요성은 비례해서 커진다. 그래서 메모리반도체회사 주가가 천정부지로 급등했다. 마침내 삼성전자와 SK하이닉스가 국내 주식시장에서 차지하는 시가총액 비중은 역대 최고수준인 50%을 돌파하며 압도적인 쏠림 현상을 보이고 있다.
멀티모달 영역에서는 신속성만큼이나 완벽한 정확성이 요구
물론 기술적 도전과 한계는 여전히 존재한다. HBM 역시 물리적 공간과 냉각 장치 장착 문제로 인해 무한정 위로만 쌓을 수 없다. 업계에서는 향후 16층에서 24층까지 쌓아 올린 후, 이를 초고층 아파트 단지처럼 옆으로 길게 연결하는 이른바 '타운화(Town) 아키텍처'가 필수적일 것으로 보고 있다.
일각에서는 데이터를 극도로 압축해 메모리 사용량 자체를 줄이려는 소프트웨어적 시도를 하고 있으나, 이는 중요 데이터의 꼬리 부분을 생략하기 때문에 가치 있는 정보의 정확성이 떨어지는 치명적인 오차 위험을 내포한다.
고도화된 AI 비즈니스나 시각·청각을 동시에 처리하는 멀티모달 영역에서는 신속성만큼이나 완벽한 정확성이 요구되므로, 결국 하드웨어(메모리) 자체성능으로 해결할 수밖에 없다. 과거 이세돌을 이긴 알파고의 연산 과정을 추적해 보아도 인공지능의 종착지는 '결근 메모리'라는 사실이 증명되었고, 그 진화의 산물이 현재의 HBM3와 그 너머의 차세대 표준들이다.
여기서 한 걸음 더 나아가 미래 반도체 지형의 핵심 기술로 떠오르는 것이 바로 'HBF(High Bandwidth Flash, 고대역폭 낸드 플래시)'다. D램을 수직으로 쌓은 것이 HBM이라면, 전원이 꺼져도 데이터가 사라지지 않는 비휘발성 대용량 저장 장치인 낸드 플래시를 고도화하여 쌓아 올린 것이 HBF다. 폭발적으로 늘어나는 KV 캐시 용량과 수십 조 개의 파라미터(매개변수)를 초고가의 HBM만으로 감당하기에는 비용적, 공간적 한계가 명확하다.
따라서 초고속 처리가 필요한 데이터는 HBM에 두고, 대용량이면서도 즉시 호출 가능한 데이터는 HBF에 저장해 활용하는 이원화 전략이 필요하므로 최첨단 '메모리 컨트롤러' 기술이 향후 시장패권을 좌우할 새로운 능력이 될 것이다.
글로벌 빅테크 기업들, 한국 메모리에 대한 의존도 낮추는 시도
중요한 점은, 이처럼 메모리를 극한으로 쌓아 올리는 적층 기술과 패키징 노하우가 대한민국의 토종기술이라는 사실이다. 과거 해외 선진기업들이 메모리는 그저 '싸게 대량 생산하는 제품'으로 치부하며 쌓는 기술의 잠재력을 간과하고 있을 때, 국내 기술진은 묵묵히 이 분야를 파고들었다.
인공지능의 폭발적 진화가 역설적으로 하드웨어 구조의 중요성을 만천하에 알렸고, 그동안 준비해 온 우리나라 연구진과 기술진에게 마침내 거대한 시대적 보상이 돌아오고 있는 셈이다.
글로벌 빅테크 기업들은 한국 메모리에 대한 의존도를 낮추기 위해 당연히 HBF 생태계를 다변화하려 시도하고 있다. 그러나 최적의 AI 성능은 어느 한쪽이 아닌, HBM과 HBF가 유기적으로 결합하여 상호 보완할 때 비로소 완성된다. 두 기술 모두에서 세계 최고 수준의 원천 기술과 양산력을 쥐고 있는 나라는 지금 사실상 대한민국이다.
우리가 이 두 가지 핵심 패를 동시에 쥐고 글로벌 빅테크들을 아우르는 가두리(Lock-in) 마케팅 전략을 정교하게 구사한다면, 대전환기에 난공불락의 유리한 고지를 점하는 것은 결코 불가능한 것만은 아닐 것으로 믿고 싶다.
이제 메모리는 단순히 데이터를 저장하고 지우는 전통적 역할에 머물지 않는다. 반도체 기업들은 HBM 자체에 GPU와 CPU의 연산 기능을 직접 집어넣는 'PIM(Processing-In-Memory)' 기술을 본격적으로 실용화하기 시작했다. 이렇게 되면 시스템 반도체와 메모리 반도체를 칼로 자르듯 구분하는 이분법적 경계는 더 이상 아무런 의미가 없어진다. 10년 후 글로벌 AI 시장의 진정한 패권을 누가 쥐게 될 것인가를 두고, 연산의 제왕 엔비디아와 메모리의 거인 삼성을 비롯한 한국 기업들 간의 소리 없는 전쟁은 이미 시작되었다.
지금까지 기술 패권의 역사는 선두 주자가 방심하는 순간 뒤집혀
지금의 한국 우위상황은 영원하지 않다. 지금까지 기술 패권의 역사는 선두 주자가 방심하는 순간 뒤집혔다. 일본의 D램 신화도 그랬고, 노키아와 블랙베리도 그랬다. 한국이 지켜야 할 것은 단순히 HBM 시장 점유율이 아니다. 메모리 생태계 전체의 주도권이다.
HBM을 넘어 HBF(고대역폭 플래시), 차세대 저장장치, 메모리 컨트롤러, 첨단 패키징, 나아가 메모리 자체가 연산 기능을 수행하는 PIM(Processing-In-Memory) 기술까지 선점해야 한다. 특히 PIM은 연산과 저장의 경계를 허무는 혁명이다.
만약 메모리가 스스로 계산하는 시대가 열린다면, 오늘날 GPU 중심 구조 자체가 근본적으로 재편될 가능성도 있다. 메모리가 조연에서 주연으로, 다시 감독의 자리까지 올라서는 것이 현실이 되는 즐거운 상상을 해본다.
#외부 칼럼은 본지의 편집방향과 일치하지 않을 수 있습니다.
필자 소개
(사) 서울이코노미포럼 공동대표
한국공감소통연구소 대표/더뉴스24 주필
전 HCN지속협 대표회장
전 ㈜ 한림MS 기획상무
