HBM, AI 논리적 사고 속 과부하
낸드는 장기간 데이터 보관에 특화
젠슨 황 엔비디아 최고경영자(CEO)가 올 1월 열린 CES 2026에서 차세대 인공지능(AI) 가속기 ‘베라 루빈’에 ‘추론 맥락 메모리 스토리지(ICMS)’ 플랫폼을 적용하겠다고 밝히자 낸드플래시 시장이 들썩였다.
ICMS는 낸드 기반 솔리드스테이트드라이브(SSD)로 구축한 일종의 대규모 저장소다. 시장에서는 엔비디아가 낸드 물량을 쓸어가면 가격이 지금보다 더 가파르게 뛸 수 있다는 전망이 잇따랐다.
실제로 씨티증권은 엔비디아가 내년에만 1억 1520만 TB(테라바이트) 규모의 낸드를 새로 구해야 할 것으로 봤는데 이는 전 세계 전체 수요량의 9.3%에 달한다.
6일 재계에서는 AI가 학습에서 추론 단계로 진화하면서 낸드 품귀 현상이 심화할 것이라는 전망이 힘을 받고 있다.
AI가 인간처럼 논리적 단계를 밟아 판단하는 사고의 과정을 거치려면 방대한 학습 데이터와 분석 결과를 계속해서 쌓아둬야 하기 때문이다. 데이터를 고대역폭메모리(HBM)에 쌓아둘 수 있지만 이 경우 연산에 써야할 HBM의 용량이 부족해지면서 과부하가 걸리는 문제가 발생한다.
이에 데이터를 장기간 보관하는 데 특화된 낸드의 가치가 치솟고 있는 것이다. 반도체 업계 관계자는 “HBM이나 D램만으로는 추론에 필요한 데이터를 감당하기 쉽지 않다”면서 “AI 진화에 맞춰 낸드 품귀 현상이 당분간 이어질 것”이라고 말했다.
AI가 사실이 아닌 내용을 그럴듯하게 만들어내는 이른바 환각 현상을 줄이는 데도 낸드는 필수 제품으로 쓰이고 있다. 빅테크들은 AI가 정확한 답변을 하도록 외부에 마련된 데이터베이스를 참고하는 ‘검색 증강 생성(RAG)’ 프로세스를 도입하고 있는데 여기에 낸드 기반의 기업용 SSD가 쓰인다.
데이터센터용 AI 서버의 저장 장치에 쓰이는 하드디스크드라이브(HDD)가 지난해 하반기 들어 부족해진 점도 낸드 수요를 키우는 요인이다. HDD를 확보하지 못한 빅테크들은 SSD를 대체재로 쓰며 공급 부족에 대응하고 있다.
업계 관계자는 “빅테크들이 SSD를 확보하려고 주문을 늘리고 있지만 메모리 제조사들이 생산을 늘리는 데 소극적인 상황”이라면서 “가격은 원하는 대로 맞춰줄 테니 일단 물량부터 확보해달라는 낸드 수요 기업이 적지 않다”고 말했다.
수요에 비해 공급이 턱없이 부족한 점도 낸드 가격을 띄우고 있다. 낸드 시장은 AI 추론 시장이 본격적으로 확대되기 전인 지난해 상반기까지 공급과잉과 재고 누적으로 긴 불황을 겪었다. 이에 삼성전자와 SK하이닉스 등 주요 제조사들은 낸드를 감산하는 동시에 HBM이나 D램 생산에 집중하는 방식으로 대응해왔다.
실제로 시장조사 업체 옴디아에 따르면 전 세계 낸드 생산량(웨이퍼 투입량 기준)은 2022년 2,139만장으로 정점을 찍은 뒤 지난해 1,556만 장까지 줄어드는 등 완연한 하락세를 보이고 있다. 업계 관계자는 “HBM의 경우 낸드를 만들 때보다 웨이퍼가 3배가량 더 들어간다”면서 “HBM 생산에 집중할수록 낸드 생산 물량은 크게 줄 수밖에 없는 구조”라고 말했다
낸드 재고가 점점 줄어드는 와중에 AI 모델의 진화로 수요가 급격히 늘다 보니 낸드 몸값이 갈수록 뛰고 있는 셈이다. 낸드 생산량이 올해(1,541만장)와 내년(1,631만장)에도 예년 수준을 회복하기 어려울 것으로 예상되는 만큼 시장에서는 낸드 가격 상승세가 당분간 이어질 것이라는 시각이 많다.
낸드 가격 상승세에 메모리 업체의 수익성 또한 빠르게 개선될 것으로 예상된다. KB증권에 따르면 삼성전자의 올해 낸드 부문 영업이익은 34조원으로 지난해(2조2,000억원) 대비 14배 넘게 뛸 것으로 전망된다. 낸드 영업이익률 역시 지난해 6.4%에서 올해 48.5%로 크게 뛸 것으로 보인다.
<서울경제=김윤수 기자>
