高带宽内存成新宠三大巨头加码“押注”

2023-07-29 05:55:49来源：中国经营网

ChatGPT在全球的关注度持续火热，再次将AI产业推到聚光灯下，而在这一领域一直盘踞着两大巨头，硬件层面英伟达独领风骚，而OpenAI凭借GPT模型在软件层面独占鳌头。但随着AI产业迎来“iPhone时刻”，为满足海量数据存储以及日益增长的繁重计算需求，半导体存储器领域也迎来新的变革，高带宽、低功耗内存HBM“粉墨登场”，SK海力士、三星等存储厂商也收获颇丰。

《中国经营报》记者从多位业内人士处了解到，DRAM（动态随机存取存储器）分为三个类型：标准DDR、移动DDR以及图形DDR，HBM属于最后一种，即图形DDR。作为一种新兴的标准DRAM解决方案。HBM的优点显而易见，它可以显著提升数据传输速度。其在数据中心中的应用已经很成熟，并且由于人工智能、机器学习的需求而使用量不断增长，但缺点是高昂的成本。

(资料图片)

各方抢购

在当前DRAM的整体颓势之中，HBM实现了逆市增长。

HBM全称为High Band width Memory，即高带宽内存，是一种新兴的标准DRAM解决方案。高带宽内存方案最初是由三星、AMD和SK海力士提出来的。HBM技术可实现高于256GBps的突破性带宽，同时降低功耗。它具有基于TSV和芯片堆叠技术的堆叠DRAM架构，核心DRAM芯片位于基础逻辑芯片之上。第一个HBM内存芯片由SK海力士于2013年生产，第一个使用HBM的产品是2015年的AMD Fiji GPU。

去年年底以来，ChatGPT 引爆AI概念，AI 相关需求呈快速增长态势。而 AI 的快速发展，对数据量和算力的需求也有大幅拉动，拉动相关半导体需求的持续提升。

民生证券指出，处理器性能不断提升，“内存墙”成为计算机系统的瓶颈，而HBM通过3D堆栈可提供更高的内存带宽和更低的能耗，适用于高存储带宽需求的应用场合，如HPC、网络交换设备等。

半导体分析师王志伟对记者表示，“内存墙”指的是内存性能严重限制CPU性能发挥的现象。存储器与处理器性能差异正随时间发展逐渐扩大，当存储器访问速度跟不上处理器数据处理速度时，存储与运算之间便筑起了一道“内存墙”。而随着人工智能、高性能计算等应用市场兴起，数据量指数级增长，“内存墙”问题也愈发突出。

据悉，英伟达与AMD最新的高端GPU产品H100以及MI300中，都配备了目前最新的HBM3。并且，微软、亚马逊等多个科技巨头也都在排队抢购SK海力士的第五代高带宽内存HBM3E。

AMD CEO苏姿丰表示，HBM采用堆叠式设计实现存储速度的提升，大幅改变了GPU逻辑结构设计，DRAM颗粒由“平房设计”改为“楼房设计”，所以HBM能够带来远远超过当前GDDR5所能够提供的带宽上限。

TrendForce 最新报告预计，2023年AI服务器出货量（含GPU、FPGA、ASIC等）预估在120万台，年增长率近38%。AI芯片出货量同步看涨，预计今年将增长50%。与此同时，目前高端AI服务器GPU搭载HBM芯片已成主流，预计2023年全球HBM需求量将年增近六成，达到2.9亿GB，2024年将再增长30%。

而根据Omdia 数据，2020 年全球 HBM 市场规模为 4.58 亿美元，预计 2025 年市场规模将达到 25 亿美元，年复合增长率高达 40.38%。

不仅是AI，AR 和 VR市场的不断增长也在推动HBM市场的增长。根据 Astute Analytica 的数据，截至 2021 年，全球企业 VR 和 AR 市场价值为 189 亿美元，预计到 2030 年将达到 3649 亿美元，2022 年至 2030 年间的复合年增长率为 39.2%。

王志伟分析认为， VR 和 AR 系统需要更高分辨率的显示器。这些显示器需要更多的带宽来在 GPU 和内存之间传输数据，这正是 HBM 的用武之地。HBM 能够提供高达传统内存解决方案三倍的带宽，已成为高分辨率显示器的理想选择。

三分天下

过去，HBM的需求仅占整体DRAM市场的不到1%，而随着市场需求的进一步提高，各大存储厂商也展开了对这一市场的争夺。

HBM市场目前由三大DRAM原厂占据，根据TrendForce统计，2022年三大原厂HBM市场占有率分别为SK海力士占50%、三星约40%、美光约10%，而SK海力士是唯一实现了量产HBM3的厂商。预计2023年SK海力士将受益新世代HBM3产品的量产，其市场占有率有望提升至53%。

今年4月SK海力士又推出24GB HBM3产品（HBM3E），容量再度提升且采用更薄的DRAM芯片垂直堆叠，实现了与16GB产品相同的高度，而这也是头部公司争相向SK海力士申请样片测试的原因。

而这也让SK海力士在相对萎靡的存储市场得以支撑。财报显示，SK海力士第二季度合并收入为7.31万亿韩元，环比增长44%，同比下降47%；营业亏损2.88万亿韩元，环比增长15%，同比由盈转亏；净亏损2.99万亿韩元，环比下降16%，同比由盈转亏。2023财年第二季度营业亏损率为39%，净亏损率为41%。

SK海力士表示，尽管消费者需求持续疲软，但生成式AI市场的扩张已迅速推高了对AI服务器内存的需求。因此，HBM3和DDR5等高端产品的销量增加，从而推动公司第二季度收入环比增长44%，而营业亏损收窄15%。

不仅如此，SK海力士已明确明年上半年生产HBM3E，并将HBM4的生产目标时间定在了2026年。

另一存储巨头三星也计划投资1万亿韩元（约合7.6亿美元）扩产HBM，目标明年年底之前将HBM产能提高一倍，已下达主要设备订单。据当地券商KB Securities称，到2024年，HBM3将占三星芯片销售收入的18%，高于今年预计的6%。据韩媒报道称，三星负责芯片业务的设备解决方案部门总裁兼负责人 Kyung Kye-hyun 在今年7月早些时候的公司会议上表示，三星将努力控制一半以上的 HBM 市场（现在40%）。

作为三大原厂中市场份额占比最小的美光也不甘人后，美光的管理层在早前的发布会上声称，他们不仅会在 HBM3上迎头赶上，而且还会超越目前的领先者。

美光指出，客户现在正在试用其新的 HBM3 产品，并表示该产品比竞争解决方案具有明显更高的带宽，并在性能和功耗方面建立了新的基准。

值得注意的是，日前，美光已宣布已出样业界首款8层堆叠的24GB容量第二代HBM3内存，基于1β DRAM制程节点高带宽内存（HBM）解决方案，带宽超过1.2TB/s，引脚速率超过9.2GB/s，比现有HBM3解决方案性能可提升最高50%。美光介绍，第二代HBM3产品与前一代产品相比，每瓦性能提高2.5倍，可帮助缩短大型语言模型（如GPT-4及更高版本）的训练时间，降低总体拥有成本（TCO）。

（文章来源：中国经营网）

标签：