一个月30万片H100，英伟达欲找英特尔造芯？只因CoWos产能太低

新智元报道。

编辑:奔跑吧好困

【新智元简介】由于台积电的先进封装技术太低，英伟达准备寻求英特尔生产人工智能芯片。据悉，英特尔每月最多可提供30万片H100的产能。

台积电生产能力不足迫使英伟达转向英特尔生产芯片？

台积电在2023年年中承认，对其先进芯片封装技术CoWoS（基片上晶片）的需求已经超过了他们的生产能力。

另一方面，英伟达被称为“人造黄金”的AI芯片在市场上供不应求，英伟达迫切希望尽快提高其产能。

最终，NVIDIA可能不得不开始考虑使用英特尔的先进封装技术来生产芯片。

根据外媒曝光的消息，NVIDIA理论上每月可以从英特尔获得额外的30万片H100芯片（假设产量完美无瑕，合同确实是为H100准备的）。

科沃斯的包装能力，卡住了世界主要制造商的脖子

对台积电来说，2023年是疯狂的一年。基本上每个月，媒体都会曝光他们正在增加CoWos封装工艺的产能。

2023年6月，台积电提高了其先进芯片封装产能。

2023年7月，台积电提高了其先进芯片封装产能。

CoWos封装能力不够的主要原因是它是一种非常先进的封装技术，只有最先进的AI芯片才需要使用这种技术。

与此同时，只有台积电和英特尔等少数芯片制造商能够使用这种技术来封装和生产芯片。

在人工智能芯片需求没有显著增长之前，包括台积电在内的芯片制造公司并没有太高的产能。

2023年是AI爆发之年，各大厂商都在加紧NVIDIA H100的存储，这使得AI芯片的需求激增。

在AI芯片的整个生产供应链中，由于CoWos封装的产能难以在短时间内提升，即使NVIDIA有足够的H100晶圆，芯片产能也会被CoWos封装“卡脖子”。

H100采用CoWoS-S封装技术，集成了7颗芯片。

其核心部分是H100 GPU专用集成电路（ASIC），其芯片面积达到814平方毫米。

周围有六组高带宽内存（HBM）。

其中H100 SXM版采用HBM3技术，每组内存为16GB，总内存容量为80GB。三菱重工空调报价表

H100NVL版本包含两个封装，每个封装都配有六个hbm。

台积电仍然是最重要的人工智能芯片工厂。

尽管如此，台积电仍将是英伟达的主要供应商，贡献了大约90%的先进封装产能。

从第二季度开始，NVIDIA计划至少为部分产品使用英特尔的生产能力。

如果这一信息属实，通过提高英特尔的生产能力，英伟达将能够更快地满足市场对其现有AI和HPC产品的需求。

然而，这里有一个挑战。

NVIDIA目前和上一代的所有产品，包括A100、A800、A30、H100、H800、H200和GH200，都依赖于台积电的CoWoS-S封装技术。

英特尔的先进封装技术被称为Foveros，但它们使用不同的内插器技术（CoWoS-S使用65nm内插器，而Foveros使用22FFL内插器）。

邱嘉臣出啥事了

要使用英特尔的Foveros技术，NVIDIA需要验证该技术，然后认证实际产品的质量。

由于两个中间层基于不同的工艺技术，并且连接点的间距不同，因此这些产品之间可能会有一些细微的差异。

因此，英伟达的合作伙伴在部署这些产品之前也需要获得认证。

据外媒报道，英特尔预计将在第二季度加入英伟达的供应链，每月生产约5000片Foveros晶圆。

对于英伟达来说，这是一个相当大的数字。

到2023年，台积电每月将能够生产多达8000片CoWoS晶圆。

计划到2023年底将产能提高至1.1万辆，到2024年底进一步提高至约2万辆。

如果NVIDIA每个月能够额外获得5000片先进封装晶圆，显然将缓解AI芯片产能不足的问题。

对于英伟达来说，将一些高级封装工作外包给英特尔代工服务是其供应链多元化的战略举措。vcf格式怎么打开

更重要的是，通过利用IFS的封装能力，NVIDIA还可以确保这些生产能力不会被竞争对手使用，从而巩固其领先地位。

为什么难以提高CoWos的封装能力？

cow OS（Chip on Wafer on Substrate）是一种2.5D/3D封装技术，可分为两部分。Cowos（晶圆上芯片）指的是晶圆堆叠，wos（基板上晶圆）指的是在基板上封装堆叠的晶圆。

CoW的目的是将一个芯片放置在包含其他芯片的晶圆之上，以实现高效空的内部利用和增强的性能。

来源:AnandTech

AI GPU上必要的高带宽内存（HBM）与CoWoS技术相辅相成。

HBM的高密度连接和短路设计只能通过CoWoS等2.5D封装技术来实现，这在传统PCB或封装基板上很难完成。

CoWoS以合理的成本提供最高的连接密度和最大的封装尺寸，已成为主流封装技术。

目前几乎所有使用HBM的系统都封装在CoWoS中，所有高性能AI GPU都需要HBM。

因此，可以说大多数领先的数据中心GPU都采用了台积电的CoWoS封装技术。

除高性能AI GPU外，只有少数网络芯片、超算芯片和FPGA会采用CoWos封装。

因此，包括台积电在内的芯片制造商不会拥有太高的先进封装能力。

虽然包括晶圆在内的其他AI GPU供应链的产能可以从其他地方吸收，但CoWos封装的产能非常困难，因此它卡住了NVIDIA的脖子。

尽管台积电一直在为更多的包装要求做准备，但我没想到这一波生成式人工智能需求来得这么快。

去年6月，台积电宣布在竹南开设一家先进的后端晶圆厂。

该晶圆厂占地14.3公顷，足以容纳每年100万片晶圆的3D织物生产能力。这不仅包括CoWoS，还包括SoIC和InFO technologies。

这家工厂比台积电其他包装厂的总和还要大。

随着生成式人工智能浪潮的发展，除NVIDIA外，其他芯片公司对CoWos产能的需求也在迅速扩大。

从Semianalysis的示意图中可以看出，用于构建大规模AI集群的网络连接芯片主要由博通提供，也将吸收大量CoWos的产能。

因此，NVIDIA似乎很难在未来仅靠台积电获得足够的出货量。

面对如此强劲的市场需求，英伟达可能无法等待台积电新工厂的建成投产。加入英特尔现有的生产能力绝对是一个值得考虑的选择。

参考资料:

未经允许不得转载：科技让生活更美好 » 一个月30万片H100，英伟达欲找英特尔造芯？只因CoWos产能太低