混合键合Hybrid bonding
两颗裸片的氧化物表面先在室温贴合,再在约 250–350 °C 退火,铜焊盘受热膨胀,把预留的几 nm 凹陷顶死,形成没有焊料的 Cu-Cu 连接P53。
芯片平铺在电路板上时,信号要先出封装、走板上走线,才能到另一颗芯片。TSV 先在硅片里刻出深孔、填满铜,再把硅片从背面磨到几十微米,让成千上万根短铜柱直接穿过芯片本体A21,A22,把一摞裸片连成一个整体。AI 加速器旁边的每一颗 HBM,都是这样叠起来的。
同样叠 N 颗裸片,引线键合要从每颗芯片的边缘拉出一根毫米级的弧线,TSV 只在芯片内部垂直走几十微米。路径变短,I/O 又能铺满整个芯片面,两件事合起来,才有了 HBM 这样的宽总线内存。
引线键合的裸片只能错开叠成台阶,每颗芯片从边缘焊盘各拉一根金线下到基板。叠得越高,线越长,顶层那根常在 1 到 3 mm 之间。TSV 让信号在芯片内部垂直穿过,每跳只有一层硅加一层键合,约 40 到 65 µm。
差距主要在电感。一根 25 µm 金线每毫米约 0.7 nH,1 nH 在 10 GHz 下的感抗约 63 ΩP38。一根 5 × 50 µm 的 TSV 电阻约 45 mΩ,与 1 mm 金线同一量级,电感却只有约 30 pHP35。电感小,高速信号的振铃和电源噪声就小,同样的速率可以用更小的驱动器和更低的摆幅来跑。
焊盘只能排在芯片四周,数量随边长线性增长,约为 4L/p。TSV 和微凸块可以铺满整个芯片面积,数量随边长平方增长,约为 (L/p)²。间距每缩小一半,面阵列的容量翻四倍,周边一圈只能翻倍。
数据:RF Essentials 键合线电感;Georgia Tech TSV RC 研究;FormFactor / SK hynix HBM2 探针测试。
有了几千条垂直通道,HBM 每个堆叠的接口做到 1,024 位,HBM4 再翻倍到 2,048 位A1,每根引脚的速率反而不必很高。SK hynix 2016 年的对比里,一颗 HBM2 提供 256 GB/s,一颗 DDR4 只有 6.4 GB/s。要凑出 1 TB/s,需要 40 根 DDR4-3200 内存条,或者 4 个 HBM2 堆叠P24。
线短、摆幅低,每比特的能耗也跟着下降。NVIDIA 的测算中,HBM2 每比特访问能耗 3.97 pJ,其中经中介层的 I/O 只占 0.3 pJ;GDDR5 是 14.0 pJP26。三星 2014 年量产的 64 GB TSV DDR4 内存条,与同容量引线键合模组相比速度快一倍,功耗约减半P10。
TSV 带来的是带宽和能效,访问延迟基本不变。一根 TSV 自身的 RC 只有约 1.6 fsP35,DRAM 的延迟主要由存储阵列时序决定。代价落在制造成本、良率和散热上,见第 06 章。
从整颗封装一路放大到铜和硅的分界面,视野从 16 mm 缩到 1 µm,跨了四个数量级。每一级横纵同比例绘制,个别膜厚和芯片厚度为示意(见图注)。一根直径 5 µm 的铜柱外面,包着三层只有几纳米到几百纳米厚的薄膜,每一层都有它必须存在的理由。
铜的热膨胀系数(CTE)约 17 ppm/K,硅只有约 2.3 ppm/K,相差约 7 倍P60。TSV 填铜后在 420 °C 左右退火,再冷却到室温。铜收缩得比硅多,拉扯周围的硅,留下拉应力P59。
应力会改变硅里载流子的迁移率。离 TSV 太近的晶体管,饱和电流 Idsat 最多偏移约 30%P59。imec 实测,距 TSV 20 µm 以内 Idsat 变化就超过 0.5%P58。
所以版图在 TSV 周围留一圈不放晶体管的禁布区(keep-out zone,KOZ)。数字电路里单根 TSV 的 KOZ 约 6 µm,TSV 排成阵列后应力叠加,增到 20 µm。模拟电路更敏感,对 TSV 阵列的 KOZ 达 200 µmP58。
这些空白都是面积成本。同工艺、同容量的 HBM 裸片比 DDR5 大 35–45%P32,TSV 区和 KOZ 是原因之一P31。反复热循环下铜柱还会向上挤出(Cu pumping),见第 06 章。
1.6 fs 可以忽略,TSV 自身不是延迟瓶颈。对照:键合线约 0.5–1 nH/mmP38,一根 1–3 mm 的引线是单根 TSV 电感的几十倍。就算信号要连穿 8 层,整条 TSV 路径的电感也只有引线的约 1/5(见第 01 章)。
| 类型 | 直径 | 深度 | 间距 |
|---|---|---|---|
| 硅中介层(CoWoS-S 类)P70 | 10–20 µm | ~100 µm | 数十 µm |
| HBM DRAM(via-middle)A100 | ~5 µm | 30–50 µm | 40–55 µm |
| CIS 晶圆级封装(via-last)A101 | 数十–数百 µm | ≈芯片厚度 | 按焊盘 |
| 背面供电 nano-TSVP72 | 数百 nm 以下 | 320 nm | 200 nm |
HBM 的 TSV 下一代将缩到 3 µm 以下A101。nano-TSV 只穿过晶体管下方几百 nm 的残余硅,给晶体管从背面供电,不连接芯片与芯片(见第 06 章)。
以 HBM 和逻辑 3D 都在用的 via-middle 流程为例。晶体管做完、第一层金属之前,在硅里挖一个直径 5 µm、深 50 µm 的孔,填满铜,再把 775 µm 厚的晶圆从背面磨薄、回蚀到铜柱露头。下面十步,始终是同一张剖面。
TSV 可以在晶体管之前、之间或之后做,分别叫 via-first、via-middle、via-last。时机决定了它要扛多少热、能做多细,以及由晶圆厂还是封测厂来做。
TSV 在先进封装里有两种用法。放在硅中介层里,它把电源、地和对外 I/O 从基板送到中介层正面;GPU 和 HBM 并排倒装在这块硅上,靠正面上千根细线横向相连,这叫 2.5D。做进芯片本体,信号就能穿过一颗芯片进入上面那颗,这叫 3D。
GDDR 和 HBM 换带宽的办法正好相反。GDDR5 每颗芯片只有 32 位数据接口,焊在 PCB 上,靠提高每根线的速率。HBM 每个堆叠有 1,024 位接口(HBM4 翻倍到 2,048 位),每根线跑得不快,靠线多取胜P24,A1。
线多,连接点就得密。HBM2 底部一块约 6.0 × 2.8 mm 的微凸块阵列里排了 3,990 个凸块,间距 55 µm,其中 1,728 个是 I/OP25。封装底部的 BGA 焊球间距在 1 mm 左右A54,按这个间距排同样数量的焊点要占近 4,000 mm²(约 63 × 63 mm),是 HBM2 封装本身的 40 多倍。所以 HBM 和 GPU 一起倒装在硅中介层上,上千根数据线在中介层正面的金属层里横向连过去,只走毫米级的距离。
距离短也省电。经中介层的 I/O 每比特只花约 0.3 pJP26(整颗 HBM 与 GDDR5 的能耗对比见第 01 章)。AMD 称 Fiji 改用 HBM 后,显存占用的 PCB 面积比 GDDR5 方案少 94%P95。
2.5D 把芯片摊开放在中介层上,芯片之间横向连接;3D 把芯片摞起来,纵向连接,每一跳只有几十微米。两者常常同时出现。HBM 本身是 3D 堆叠,它再和 GPU 一起放进 2.5D 封装。AMD MI300X 又多走一步,先把 8 颗计算芯片(XCD)用混合键合叠在 4 颗 I/O 芯片(IOD)上,再和 8 颗 HBM3 一起放到 CoWoS-S 中介层上,AMD 称之为 3.5DA47,A48。
| 对比项 | 2.5D中介层 | 3D芯片堆叠 |
|---|---|---|
| TSV 在哪 | 中介层里,只把电源、地和对外 I/O 从 C4 接到正面 | 每颗被穿过的裸片里,信号和电源都走 TSV |
| 芯片间信号 | 中介层正面金属层横向走线,毫米级 | 纵向穿过 TSV,每跳约 40–65 µm(裸片厚度加键合间隙,示意) |
| 垂直连接间距 | 微凸块 40–55 µm;C4 约 130 µmP41 | 微凸块 50 → 36 µm(Foveros);混合键合 9 µm(SoIC、Foveros Direct)A51,P45 |
| 每比特能耗 | HBM2 经中介层 I/O 约 0.3 pJ/bitP26 | Foveros 0.15,Foveros Direct 约 0.05 pJ/bitP47,P45 |
| 散热 | 芯片并排,各自的热直接向上导出 | 热要穿过整摞芯片;HBM 的热主要来自底部的基底裸片(base die),冷却却在顶部(见第 06 章) |
| 尺寸与成本 | CoWoS-S 中介层最大约 3.3 倍光罩面积(≈2,700 mm²)A26 | 层数越多,良率和成本压力越大(见第 06 章) |
| 代表产品 | Virtex-7 2000T(2011)A53、H100(CoWoS-S)、Blackwell(CoWoS-L:RDL 中介层 + LSI 硅桥)A33 | HBM 堆叠、AMD 3D V-Cache(SoIC)、Intel Foveros(Lakefield、Meteor Lake、Clearwater Forest) |
数据、命令和地址从基底裸片出发,沿 TSV 竖着穿过每一层,直达目标裸片。
热主要产生在底部的基底裸片,要向上穿过整摞裸片才能散走。铜 TSV 和凸块是路上导热较好的通道,层间填充层最差(见第 06 章)。
CoWoS-S 用整块硅中介层,带 TSV,H100 用的就是它。CoWoS-R 换成聚合物加铜的 RDL 中介层,没有硅中介层 TSV,2023 年量产。CoWoS-L 以 RDL 为底,只在需要高密度互连处嵌入局部硅桥(LSI),桥内可以带 TSV,模塑层里另有 TIV;2024 年起量产,NVIDIA Blackwell 主要用它A26,A27,A33。上图的 2.5D 模式以 CoWoS-S 为例。
混合键合把两颗芯片的铜焊盘直接键合,替代的是层与层之间的微凸块。信号要穿过一颗芯片的硅本体,仍然要靠 TSV。3D V-Cache、SoIC 和 MI300 都是混合键合加 TSV。单根 TSV 的结构见第 02 章,混合键合的间距路线见第 06 章。
今天出货量最大、单价最高的 TSV 在 HBM 里。图像传感器、FPGA、服务器内存、CPU 缓存和闪存也用过或正在用它,其中多数比 HBM 更早量产。同一根铜柱,在不同产品里干的活并不一样。
看一个产品里的 TSV,先问它传的是什么。在 3D 堆叠里,TSV 是层与层之间唯一的竖向通道,数据和电源都从这里走。在 2.5D 硅中介层里,芯片之间的高速信号在中介层表面横着走,TSV 只负责把电源、地和对外 I/O 引到下面的基板。
下面每个产品配一张示意剖面。青色点是信号,琥珀色点是电源,点的走向就是电流的路径。2.5D 与 3D 的整体结构见第 04 章。
单个堆叠的带宽 = 接口位宽 × 单针速率 ÷ 8。HBM1 到 HBM3E 位宽一直是 1,024 位,带宽全靠提速。HBM4 把位宽翻倍到 2,048 位,这要求每层穿过更多 TSV。
速度与位宽。HBM1 到 HBM3E,单针速率从 1.0 Gb/s 提到约 10 Gb/s,位宽不变。HBM4 改成 2,048 位、32 个通道,JEDEC 速率反而回到 8 Gb/sA1。
TSV 数量跟着涨。HBM2 每颗裸片已有 5,000 多个 TSVA21。三星称 HBM4 的 TSV 数是 HBM3E 的 4 倍P27;SK hynix HBM4 超过 2 万个 TSVP19。2,048 是数据 I/O 数,TSV 总数比它多得多。
容量靠层数和高度。12-Hi 要和 8-Hi 一样高,SK hynix 把裸片减薄了 40%A10。JEDEC 把 HBM4 封装高度从 720 µm 放宽到 775 µm,所以 HBM4 层间仍用微凸块,暂不必换成混合键合(两种方案都要 TSV)A2。
加速器把 4 到 12 个 HBM 堆叠放在计算裸片周围。从 H100 到 Rubin,堆叠数从 5 个变成 8 个,总带宽从 3.35 TB/s 涨到 22 TB/s,约 6.6 倍。多出来的部分主要来自每个堆叠本身。AMD 2026 年的 MI455X 放了 12 个 HBM4 堆叠。
TSV 的想法 1958 年就有了。真正量产要等深硅刻蚀、薄片处理和铜填充在 2000 年代成熟,第一批用户是手机摄像头。
TSV 让芯片可以竖着堆,也带来了热、应力、良率和成本四个硬约束。下面四个小模型各拆一个。最后看互连间距继续缩小以后,“穿过衬底”这个思路往哪里走。
HBM 的热主要来自最底层的基底裸片(base die),冷却却在堆叠顶部,热要依次穿过每一层P34。硅的导热约 150 W/m·K,层间的非导电膜(NCF)不到 1 W/m·K。在这个一维模型里,温升几乎全落在间隙上(实际间隙里的铜凸块和热虚设凸块会分担一部分导热)。每多一层,曲线就多一级台阶。
实测口径:SK hynix 称同工况下 MR-MUF 的结温比 TC-NCF 低 14 °CP99。其他对策还在导入中:SK hynix 面向下一代(含 HBM5)的 i-HBM 在 PHY 区嵌入导热元件,热阻降低约 30%P83。三星的 Heat Path Block 在手机芯片 Exynos 2600 上使热阻最多降 16%,并称已在 HBM4E 上验证P83P84。
按最简单的模型,一个堆叠里只要有一颗裸片或一次键合失败就整堆报废,其余好的裸片也一起丢掉P34。实际 HBM 有冗余 TSV 和封装后修复,能救回一部分。所以每层堆之前都要先测成已知合格芯片(KGD)。HBM 在晶圆级就做老化、冷热测试和修复,基底裸片走 IEEE 1500 测试P24。
TrendForce 2024 年 3 月称 HBM 良率比 DDR5 低约 20–30%P32,5 月的另一篇称 HBM 良率约 50–60%P33。两者口径不同,不宜合并。
SK hynix 2012 年的估算是 TSV 让制造成本增加约 25%,TSV 堆叠约为引线键合堆叠的 1.3 倍P93。TSV 工序里最贵的是 CMP、深硅刻蚀和阻挡层/种子层沉积。在 SavanSys 的一个 CoWoS 类成本模型示例里,TSV 只占约一成,整块硅中介层的相关工序合计接近一半P96。
单位面积的连接数约等于 1/间距²。间距缩小 10 倍,连接数多 100 倍。下图纵轴是对数刻度,右侧把间距直接换算成每 mm² 的连接数,点按或悬停任一点查看,也可以聚焦后用方向键切换。
两颗裸片的氧化物表面先在室温贴合,再在约 250–350 °C 退火,铜焊盘受热膨胀,把预留的几 nm 凹陷顶死,形成没有焊料的 Cu-Cu 连接P53。
把供电网络挪到晶圆背面,正面只走信号。连接两面的 nano-TSV 只穿过几百 nm 的残余硅,尺度比封装用 TSV 小两到三个数量级。它给晶体管供电,不负责连接芯片。
用玻璃替代有机基板的芯层,通孔变成穿玻璃通孔(TGV)。玻璃更平、更耐热,能做更细的线路。难点在 TGV 成形、金属化、积层、切割和防开裂P76。
倒装已经把 I/O 铺满芯片正面,TSV 再让信号穿过减薄到 30–50 µm 的硅继续往上叠,每一跳只有几十 µm。HBM 因此能做 1,024 位、HBM4 做到 2,048 位接口。单颗 HBM2 有 256 GB/s,同年代的 DDR4 芯片是 6.4 GB/sP24。
热要穿过每一道间隙,良率按层数相乘,铜和硅的热失配带来突起和禁布区。在 SK hynix 2012 年的估算里,TSV 让制造成本增加约 25%;在一个成本模型示例中,硅中介层相关工序约占 2.5D 封装成本的一半。
层间间距从 55 µm 的微凸块走向 9、6、4.5 µm 的 Cu-Cu 混合键合,连接密度按 1/间距² 增长。信号和电源只要还得穿过某颗裸片,那颗裸片里就仍然需要 TSV。
往小处走,变成几百 nm 的 nano-TSV,把供电搬到晶体管背面。往大处走,变成玻璃基板里的 TGV。核心都一样,用一根竖直的导体换掉一段绕远的路。