본문 바로가기
과학지식

반도체 첨단 패키징과 HBM(High Bandwidth Memory) 시장 전망

by 지적유희@ 2024. 9. 7.

출처 : 셔터스톡

 

최근 반도체 산업에서 첨단 패키징 기술과 고대역폭 메모리(HBM)의 중요성이 부각되고 있습니다. 첨단 패키징은 칩의 성능과 효율성을 극대화하면서도 소형화와 전력 소비 감소를 동시에 이끌어내는 핵심 기술로, 인공지능(AI), 자율주행, 5G 통신 등 차세대 기술에 필수적입니다. 특히, 고성능 컴퓨팅 분야에서 필수적인 HBM은 병렬 처리 속도를 극대화하고 데이터 전송량을 극대화하여 반도체 기술 발전의 새로운 축으로 떠오르고 있습니다. 본 보고서에서는 첨단 패키징과 HBM 시장의 현황과 전망을 살펴보고, 해당 기술들이 반도체 산업에 미치는 영향력을 분석해보겠습니다.

1. 2023년 트렌드: NVIDIA의 GPU와 HBM

2023년의 주요 기술 트렌드는 생성형 AI와 인공지능 서비스로, 이에 따라 NVIDIA의 GPU와 HBM에 대한 수요가 크게 증가했습니다. High End AI 서버에는 8개의 가속 GPU가 탑재되며, NVIDIA는 학습용 GPU 시장의 95% 이상을 점유하고 있습니다. 이러한 데이터센터용 GPU는 HBM을 탑재하여 대규모 데이터를 고속으로 처리할 수 있습니다.

 

TSMC의 CoWoS(Chip on Wafer on Substrate) 기술을 통해 GPU와 HBM을 하나의 기판에 패키징하여 효율성을 극대화하고 있습니다.

2. 2024년 CoWoS와 HBM 전망

2024년에는 NVIDIA의 수요를 넘어 AMD, FPGA(프로그램 가능 논리장치), 그리고 북미 클라우드 서비스 기업들의 수요가 본격적으로 증가할 것으로 전망됩니다. 특히 HBM3는 많은 빅테크 기업의 자체 NPU(Neural Processing Unit)에 탑재될 예정이며, 이는 HBM 시장의 성장을 크게 견인할 것입니다.

 

TSMC와 같은 패키징 기술 업체는 이를 대응하기 위해 생산 능력을 지속적으로 확충하고 있습니다.

 

3. Near Memory 수요 확대

Moore의 법칙의 한계를 극복하기 위해 GPU와 HBM이 하나의 패키지 기판에 탑재된 SiP(System in Package) 구조가 부각되고 있습니다.

 

Near Memory는 대용량 데이터를 고속 처리하고, 로직 칩의 성능을 향상시키며, 전력 효율을 개선하는 데 필수적인 역할을 하고 있습니다. 특히 생성형 AI 서비스가 확장됨에 따라 Near Memory는 클라우드 기반의 서비스에서 On Device AI 서비스로 확대될 것으로 예상됩니다.

 

애플, 퀄컴, 삼성전자 등은 이를 지원하는 신규 AP(Application Processor)를 개발 중이며, 2024년부터 본격적인 상용화가 예상됩니다.

 

4. HBM3E 시장 전망

현재 주력으로 사용되는 HBM3는 2024년에는 HBM3E로 진화할 전망입니다. HBM3E는 단일 스택당 용량을 12단으로 늘려 한 GPU당 최대 192GB까지 용량을 제공할 수 있습니다. NVIDIA의 차세대 GPU인 B100과 GH200은 HBM3E를 탑재할 예정이며, HBM 시장은 2024년에 118억 달러로 전년 대비 171.6% 성장할 것으로 전망됩니다.

 

삼성전자와 SK하이닉스는 HBM3E 샘플을 공급하고 있으며, 마이크론도 시장 진입을 준비하고 있습니다.

 

5. Hybrid Bonding과 첨단 패키징 기술

Hybrid Bonding은 HBM 적층과 로직 반도체 3D 패키징에 적용될 새로운 패키징 기술로, 메모리 반도체뿐만 아니라 다양한 로직 반도체에도 적용될 것으로 기대됩니다. AMD는 이 기술을 Ryzen 9 7950X3D에 적용해 성능을 개선하였고, 향후 HBM4에서도 이 기술이 중요한 역할을 할 것으로 예상됩니다.

 

6. 첨단 패키징 기업들의 투자 확대

2023년 경기 침체로 인해 전반적인 설비 투자는 축소되었지만, 첨단 패키징에 대한 투자만큼은 확대되고 있습니다. TSMC는 Advanced Backend Fab6를 가동하고 있으며, Intel은 말레이시아에 새로운 패키징 설비 투자를 진행 중입니다. 삼성전자 역시 AI 반도체 수요 증가에 대응하기 위해 패키징 투자를 강화하고 있습니다.

 

7. 첨단 패키징 산업의 전망

미래에는 Near Memory와 첨단 패키징 기술이 더욱 중요해질 전망입니다. 데이터센터용 GPU, CPU, FPGA, NPU를 중심으로 수요가 증가할 것으로 보이며, 2027년부터는 스마트폰과 같은 개인용 On Device AI 수요가 본격화될 것입니다. 이에 따라 Near Memory와 첨단 패키징 산업은 계속해서 확장될 것입니다.

 

참고 : 현대차증권 - 첨단패키징과 HBM시장 전망

 

 

 

인공지능(AI) 반도체 기술 개발 동향

인공지능(AI) 기술은 현대 사회의 핵심 동력으로 자리 잡으며, 다양한 산업 분야에 혁신을 가져오고 있습니다. 이에 따라 AI의 성능을 극대화할 수 있는 하드웨어, 특히 인공지능 반도체의 중요성

know.simyeon.blog