6颗芯片1500美元,成本占GPU一半,英伟达抢疯了

2024-05-21 | 来源: 腾讯科技 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

作为一名“AI政治家”，山姆·奥特曼频繁地出现在全球各大科技、经济活动的演讲台，言必称“算力”。

我在《黄仁勋“人肉快递”，掀起900亿美元算力争夺战》中也提到，来源无非两种路径：买和自研。现在，硅谷巨头们基本都是两条腿走路，一边买、一边下场自研，连苹果也被传出和台积电搞了4年的推理芯片项目ACDC（Apple Chip in Data Center）。

主流GPU供应商包括英伟达、AMD、Intel这几家，但每年数百万颗GPU能够生产出来的前提，是上游的供应商能够提供足够的零部件，比如最为关键的HBM存储芯片。

以H200为例，1颗逻辑芯片要搭配6颗HBM存储芯片，到GB200，1颗逻辑芯片要搭配8颗HBM存储芯片，整体需求会在现有的基础上增长30%以上。TrendForce预计2025年GB200的出货量将达到100万颗，单单这一款产品，对HBM存储的需求就将达到800万颗。

01 AI带火HBM

HBM（High Bandwidth Memory），中文翻译过来即高带宽内存，由于这几年的GPU产品大量的采用而火起来（如下图），但实际上它也不算特别新的概念，2013年就被固态技术协会定位行业标准。

不续签 50年石油美元时代结束了

纽约客访加拿大被高生活成本惊到

美升级制裁卢布应声下跌,俄民众抢购美元

主要GPU厂商的主流产品对应的HBM型号，来源：TrendForce

2015年，AMD Radeon R9 Fury X全行业首次应用HBM内存，但由于当时深度学习向量计算需求还没有爆发，且HBM与GPU/CPU封装在一起，相比DDR内存容量还小，作为早期技术成本太高而无法在消费级产品上大规模的应用。

高到什么程度呢？AMD RX Vega当时搭载了2颗HBM2内存，BOM成本大概是160美元，单颗成本80美元，数倍于GDDR5 / GDDR5X，TrendForce预估HBM的单价是DDR的5倍，而且HBM的价格随着算力需求的上升也在不断上涨，这个差距还会进一步拉大。

贵，还不得不用，问题在于处理器和内存之间的数据交换存在瓶颈。

相比主流的存储方案，HBM的高带宽，在解决数据交换瓶颈上具有天然的优势。根据Embedded整理的数据，16GB的HBM2e每个堆栈的带宽达到460.8GB/s。

架构上，传统方案一般为存算分离架构，处理器是处理器，内存是内存，存储颗粒和逻辑芯片分开，而采用3D堆叠的HBM内存，则通过CoWoS与逻辑芯片封装在一起。