高频宽记忆体HBM是什么?为什么英伟达、AMD都在抢HBM?
2026年08月11日
摘要:高频宽记忆体HBM是AI芯片突破内存墙的关键技术,通过3D堆叠与先进封装提升带宽。随着模型需求爆发,英伟达、AMD争抢产能,HBM已成为AI产业竞争核心资源。
在生成式 AI 与大语言模型爆发的浪潮中,算力竞争已经演变成一场关于“数据搬移速度”的生死战。
过去,评价一块 AI 芯片(GPU/NPU)性能,行业习惯看“浮点运算能力”(TFLOPS/PFLOPS)。但如今,英伟达(NVIDIA)、AMD 等芯片巨头面临的最大挑战并非计算单元不够快,而是“内存墙”数据从内存传输到 GPU 计算核心的速度,远远跟不上计算核心处理数据的速度。
而高频宽记忆体(High Bandwidth Memory,简称 HBM),正是打破这一瓶颈的核心武器,HBM概念股迎来火爆行情。

什么是高频宽记忆体HBM?
HBM是一种基于 3D 堆栈技术的高性能 DRAM 存储器架构。如果把传统的 DDR 或 GDDR 显存比作平房或高楼大厦,那么 HBM 就是将多层 DRAM 芯片纵向堆叠在一起的“摩天大楼”,并通过极精密的技术直接与 GPU 封装在同一块基板上。

▶HBM 的三大技术突破:
1.3D 芯片堆叠(3D Stacking)
利用 TSV(Through-Silicon Via,硅通孔技术) 在 DRAM 芯片上打出数以千计的微小孔洞,将 4 层、8 层甚至 12/16 层 DRAM 纵向连接起来,极大缩减了占板面积。
2.极宽的数据总线(Ultra-Wide Bus)
传统的 GDDR6 显存位宽通常为 32-bit,即使多颗组合也多在 256-bit 到 384-bit 之间;而单个 HBM 堆栈的通道位宽就高达 1024-bit(到了 HBM4 更是扩展至 2048-bit)。位宽扩大几十倍,数据吞吐量呈现指数级上升。
3.先进封装与极短传输路径(In-Package Integration)
HBM 不再插在主板或独立焊在 PCB 上,而是通过台积电 CoWoS 等先进封装技术,与 GPU 芯片共同安置在同一个中介层(Interposer)上。传输距离从厘米级缩短到毫米级,延迟与功耗大幅降低。
为什么英伟达、AMD 都在疯抢高频宽记忆体?
在 AI 加速卡(如 NVIDIA H100/H200/B200、AMD MI300X/MI350)的成本与性能构成中,HBM 占到了举足轻重的地位。巨头们抢购 HBM,背后有四个核心驱动力:
1.破解“内存墙”:别让 GPU 核心空转等待
深度学习训练与推理需要实时调取数百亿至数万亿级别的参数。如果内存带宽不足,算力再强的 GPU 也会因为“等数据送达”而处于空转闲置状态(即受限于带宽瓶颈)。
GDDR6X 带宽上限: 约 1 TB/s ~ 1.5 TB/s
HBM3e / HBM4 带宽: 轻松突破 4.8 TB/s ~ 8 TB/s 甚至更高
2.大语言模型对“高容量+高速度”的双重渴求
一个 700B(7000亿参数)的模型,光是把参数加载进显存就需要数百 GB 的容量,更不用说运行时产生的 KV Cache 和中间计算状态。
AMD MI300X 搭载了 192GB 的 HBM3,主打就是靠单卡超大显存容纳更大模型。
NVIDIA H200 升级为 141GB HBM3e,比前代 H100 的推理性能大幅提升。
NVIDIA Blackwell(B200/GB200)与 Rubin 架构则全面迈向 HBM3e 与 HBM4.显存容量与带宽直接决定了能支撑多大规模的 AI 集群。
3. 能耗比(Performance-per-Watt)的硬性指标
数据中心最贵的不只是硬件,还有电费与散热成本。
在传统电路中,将数据在 PCB 板上传输厘米级的距离会消耗大量能量。HBM 通过硅通孔和中介层极短的传输距离,使得每传输一个 Byte 数据所需的能量(pJ/bit)比传统显存低 50% 以上。
对于动辄数万张 GPU 组成的 AI 数据中心来说,这能省下惊人的电力开销。
4. 产能即血脉:谁抢到 HBM,谁就能掌控市场份额
HBM 的制造工艺极其复杂,良品率提升缓慢,且产能被三大存储巨头(SK 海力士、三星、美光)高度垄断。
“拿到多少 HBM 产能,就能出货多少 AI 加速卡。”对英伟达而言,锁定 HBM 供应链能巩固其市场统治地位,防止竞争对手弯道超车;对 AMD 而言,抢占高品质 HBM 则是其旗舰 AI 芯片能否放量冲刺、瓜分市场份额的关键命脉。
| HBM 世代 | 主流时期 | 单堆栈带宽(典型) | GPU 总带宽代表水平 | 代表性芯片 |
| HBM2 | 2016–2019 | 约 256 GB/s | 约 900 GB/s | NVIDIA V100 |
| HBM2e | 2019–2022 | 约 307–460 GB/s | 约 2.0 TB/s | NVIDIA A100 |
| HBM3 | 2022–2024 | 约 819 GB/s | 约 3.35 TB/s | NVIDIA H100、AMD MI300X |
| HBM3e | 2024–2025 | 约 1.2 TB/s | 约 4.8–8.0 TB/s | NVIDIA H200、B200、AMD MI350 |
| HBM4 | 2026 起 | 超过 2.0 TB/s(最高可达 3.3+ TB/s) | 预计 16 TB/s+ | NVIDIA Rubin、SK 海力士、三星 HBM4 方案 |
HBM本质上是一种通过3D堆叠和先进封装技术实现超高带宽的DRAM解决方案。它之所以成为英伟达和AMD争抢的焦点,根本原因在于AI大模型时代“内存墙”问题的严峻性——没有足够的内存带宽,再强的算力也无法释放。
而高频宽记忆体极高的制造门槛和有限的产能,使得供给远远跟不上需求的爆发。在这种背景下,HBM不再仅仅是一种存储芯片,而是决定AI芯片厂商能否按时交付产品、能否在AI竞赛中保持竞争力的战略资源。
德州仪器Q3财报暴涨77%,股价为何不涨?AI芯片巨头还值得买吗?
德州仪器(TXN)2026财年Q3每股收益同比大增77%,数据中心收入接近翻倍,但股价未同步上涨。分析AI需求、盈利能力与估值风险,评估长期成长潜力、买入时机及投资策略。
2026年10月22日龙头股是什么?如何带动行情?台股VS美股AI龙头有哪些?
龙头股是产业中具技术与供应链壁垒、市场主导力和资金共识的核心企业,它们通过涨幅领先、板块带动和流动性溢价影响整个市场,例如美股的NVIDIA与台股的台积电、日月光等。
2026年03月12日记忆体会缺货到什么时候?为什么会缺记忆体?
记忆体缺货是由AI驱动导致的长期结构性供给危机。HBM、DRAM与NAND产能同步吃紧,加上DDR4逐步退场、新增产能落地缓慢,市场预估缺货可能一路延续至2027至2028年。
2026年05月26日AI Agent是什么?2026年为什么爆发?受益产业与投资机会全解析
AI Agent推动人工智能从信息生成迈向任务执行,2026年随模型、云计算和工具调用技术成熟而加速发展。本文解析其商业模式、受益产业、投资机会与风险,帮助投资者评估长期价值。
2026年11月02日NAND Flash为什么爆红?比HBM便宜百倍,AI推论会改用低成本存储吗?
NAND Flash是什么?一种广泛用于SSD、手机、服务器与AI数据中心的非易失存储技术。随着企业级SSD需求升温、存储价格回升与3D NAND演进,投资者重新关注存储产业链与半导体股表现。
2026年07月07日



