英伟达：卖芯易，加薪难？

要想知道 H100 究竟有多赚钱，只看两点便可知。

一，H100 在芯片市场中拥有绝对统治力。当今世界你第一时间想起的巨头企业，都在抢购它。上到特斯拉、苹果、微软、谷歌等知名公司，下到研究大语言模型的初创企业，也有 Azure、GCP 和 AWS 等云服务供应商（CSP），CoreWeave、Lambda 等大型私有云。

二是 H100 拥有超过 90% 的毛利率。

H100 的物料成本主要有三部分：核心逻辑芯片、HBM 内存芯片、CoWoS 封装。

H100 的核心逻辑芯片面积为 814 平方毫米，采用台积电 4N 工艺制造（5nm+），以一块报价为 1.34 万美元的 300mm 晶圆，结合良率、损耗来看，大概能切割 65 颗，平均算下来每颗单价 200 美元左右；HBM 内存芯片来自 SK 海力士的 HBM3 内存芯片，一共六颗，单颗容量为 16GB，每 GB 为 15 美元，合计 1500 美元；虽 CoWoS 没有公布其价格，但据分析师 RobertCastellano 结合台积电财报推算，制造一颗 H100 需要 723 美元。

三大合计约 2500 美元（台积电拿走约 1000 美元的情况下），算上除此以外的成本约 3320 美元左右。

也就是说英伟达的毛利率超过 90%。

《巴伦周刊》资深撰稿 人tae kim 发帖估计 H100 的成本为 3320 美元

但英伟达想赚钱，还得看台积电和 SK 海力士的脸色行事。

英伟达的 H100 确实在市场呈垄断地位，说新一代“印钞机”也无可厚非，但 H100 供不应求，在明年第一季度之前都是售罄状态。

要看台积电脸色是因为，英伟达受制于台积电先进的封装技术—2.5D CoWos（Chip on Wafer on Substrate）。

CoWoS 是一种 2.5D/3D 封装技术，是将多个有源硅模板集成在无源硅中介片上。然后将中介片和活性硅链接到包含 I/O 的包装基板上，将其连接到系统 PCB 上。

台积电 CoWoS-S 结构示意图

CoWoS 能将不同制程的芯片封装在一起，可达到加速运算但同时控制成本的目的。简单来说，CoWoS 有节省空间、减少功耗的优势

英伟达的 H100、A100 全部由台积电代工，并使用台积电的 CoWoS 先进封装技术，除了英伟达外，其他厂商也对台积电的 CoWoS 有需求，为此 CoWoS 产能供不应求。

有设备厂商估算，台积电 2023 年 CoWoS 总产能逾 12 万片，2024 年将冲上 24 万片，其中，英伟达将取得 14.4 万-15 万片。

CoWoS 产能不足的背景下，依靠 CoWoS 封装的 H100，自然被台积电扼住了咽喉。

HBM（高带宽存储）是限制英伟达 H100 生产的另一个重要瓶颈。

HBM 类似数据的“中转站”，就是将每一帧、每一幅图像数据保存到帧缓存区域中，等候 GPU 调用。

相比传统内存技术，HBM 带宽更高、功率更低、功耗更低、尺寸更小，能够使 AI 服务器的传输速率和数据处理量大幅提升，因此 HBM 也成了 AI 服务器的标配。

正如台积电垄断了先进封装一般，HBM 的供应也被 SK 海力士垄断，市占率超过 95%，也是目前唯一量产 HBM3E（第三代 HBM）的厂商。

无论是 CoWoS 还是 HBM3，每年的产能都是固定的，除英伟达外，各大厂商需求也不少。AMD 不仅大量采用 HBM，其中 MI300 搭载的还是 HBM3；传言谷歌在下半年推出的 TPU 张量处理器，也将搭载 HBM。

搭载 HBM 的芯片几乎都需要像 CoWoS 这样的 2.5D 技术，所以目前领先的 GPU 都有台积电打包在 CoWoS 上，也就是说芯片的产能进一步 SK 海力士和台积电的制约，英伟达并非说加芯就能加芯。

台积电没有替代品

为了不被捏住命门，也为了芯片代工的议价权，英伟达开始“削藩”寻找更多代工厂。

英伟达在 CoWoS 封装等的关键制程已开放给其他供应链代工厂。目前，英伟达正积极对接联华电子，近日联华电子将扩充旗下硅中介层（前段 CoW 部分）产能，月产能将由目前的 3 千片扩增至 1 万片；封测厂 Amkor、日月光投控旗下矽品则负责后段 WoS 封装。

某种意义上来说，英伟达构建的芯片帝国和台积电打造的顶尖芯片代工厂如出一辙——同样拥有一骑绝尘的技术，是无可替代的存在。

所以扶持合作伙伴，并非短期有效解决措施，因为英伟达的核心芯片、产量，还是离不开台积电的怀抱，否则英伟达今年由台积电代工的芯片，怎么会占到台积电年出货量的 40% 左右？

好比远水救不了近火，扩产能这件事没有快速捷径。

一方面，建造周期较长，芯片从制作到包装都是的整个生态系统都是在台积电周围完成，如果另起炉灶，将制造业转移尤为艰难。

另一方面，台积电方也不会机会留给对手，对英伟达寻找替代工厂的暧昧态度，台积电以积极扩建产能做出了回应。

从营收结构来看，台积电也不会把嘴边的肥肉放跑。2022 的 CoWoS 封装已经占总收入 5% 以上，且将以每年近 20% 的速率增长。

台积电也是下了重金扩产，斥资 900 亿元新台币在竹科铜锣园区设立先进封装厂，预计 2026 年底建厂完成，2027 年第三季开始量产，而位于日本熊本的工厂已建成，九月底预计将有 600 名来自台湾的员工移民熊本。

值得英伟达高兴的是，至少在 HBM 上还有可选方案，不用等 CoWoS 的扩建周期。三星表示将投资 1 万亿韩元扩大 HBM 产能，并于今年推出 HBM3 产品；美光预计其相关 HBM 产品“将在 2024 财年贡献有意义的收入，并在 2025 年贡献大幅增加的收入”。

但把台积电，看成英伟达的镣铐，倒也不一定完全准确。

在硬币的另一面，产能短缺也绝非都是坏事，至少英伟达在全球缺芯的市场中，垄断了市场，也让自己的芯片单价水涨船高，售价 3.6 万美元的 H100，此前在 Ebay 上的平均售价高达 4.5 万美元。

要是没有这场缺芯潮，芯片的二手市场怎会有如此高溢价，英伟达也没有底气开出如此高利润的售价。

加不了量就加价