首轮AI半导体市场竞争，胜负已分
本文由半导体产业纵横（ID：ICVIEWS）编译自jbpress。
生成式AI改写了半导体厂商的格局。
自2022年11月30日美国OpenAI发布ChatGPT以来，已经过去两年了。过去两年，各种生成式人工智能不断涌现，人工智能热潮主导了世界。
生成式人工智能在配备人工智能半导体的服务器上运行。许多半导体制造商都在人工智能半导体领域展开竞争，但胜负已分明（图1）。
图1 AI半导体，第一轮赢家和输家
首先，在设计方面，NVIDIA这家专门从事设计的无晶圆厂公司占据了全球AI半导体市场份额的80%～90%左右，已经成为主导公司，而处理器制造商英特尔和AMD则被迫陷入困境。是。
其次，在制造AI半导体方面，例如NVIDIA的GPU（图形处理单元），我们是全球最大的代工厂，既处理在晶圆上制造芯片的前端流程，又处理切割芯片和封装的后端流程其中，台积电再次占据市场主导地位。
此外，NVIDIA的GPU等AI半导体配备了大量DRAM垂直堆叠的高带宽存储器（HBM），但在这一领域，DRAM份额全球第一的韩国三星、韩国SK市场份额排名第二的海力士主导着先进HBM市场。
简而言之，在AI半导体的第一轮竞争中，NVIDIA、台积电和SK海力士是获胜者。我想讨论下面的细节。
半导体厂商销售额排名
图2 Intel、三星、台积电、NVIDIA、SK海力士销售额（按各公司财年绘制）资料来源：作者根据各公司财报数据制作
图2揭示了主要半导体生产商季度销售额的演变趋势。直至2017年上半年，英特尔一直保持行业领先地位。但在2018年，由于内存市场泡沫的兴起，三星超越了英特尔，首次跃升为全球销售额最高的半导体企业。随后，内存市场泡沫在2019年破裂，英特尔得以重新占据行业领头羊的位置。此外，三星在2021至2022年间，得益于特定的市场需求，再次荣登榜首。到了2023年，随着特定市场需求的消退，台积电异军突起，取代了三星和英特尔，成为新的行业领导者。
2022年11月30日，随着ChatGPT的发布，自2023年初起，英伟达的销售业绩开始迅猛增长，其市场地位迅速攀升，最终以显著的优势超越了台积电、英特尔和三星，成为业界领头羊。
在此背景下，台积电与三星尽管已经摆脱了疫情引发的特殊需求消退所导致的市场衰退，并且销售额有所回升（尽管不及英伟达的增长幅度），但英特尔的业绩持续不振。至2024年第三季度（Q3），其销售额仅为133亿美元。预计在第四季度，HBM（高带宽内存）产品线有望实现追赶，但即便如此，表现突出的SK海力士仍有可能超越英特尔。
即便如此，Nvidia的快速进步还是令人惊叹的。纵观各大半导体厂商的年度销售额趋势，毫无疑问，NVIDIA将成为历史上第一家突破1000亿美元的半导体厂商（图3），尽管这只是预测。
图3主要半导体厂商销售额（2024年预测）
那么为什么NVIDIA的销量会猛增呢？
数据中心用半导体的销售
我曾提及生成式人工智能在搭载人工智能半导体的服务器上执行任务。实际上，生成式人工智能是在拥有数以万计人工智能服务器的数据中心内运行的。因此，我们根据公司的调查，对数据中心的半导体出货量进行了分析（参见图4）。
结果显示，从2021年至2022年期间，英特尔公司占据了最高的出货量。尽管如此，英特尔当时面临困境，尽管AMD在个人计算机处理器市场上迅速追赶，但在服务器处理器领域，英特尔仍保持领先，AMD未能超越。
图4数据中心用半导体销售额来源：作者根据Nvidia、AMD和Intel财务业绩数据制作
然而，自2022年11月30日ChatGPT发布以来，英特尔的优势已经丧失。早在2023年第一季度，英伟达就超越了英特尔。此后，英伟达开始以压倒性优势领先英特尔。
一方面，在生成式人工智能出现之前一直无法与英特尔匹敌的AMD正在专注于AI半导体的开发，而英伟达虽然无法与之匹敌，但正在逼近销量低迷的英特尔，并在2024年第三季度最终超越英特尔（尽管领先幅度很小）。
台积电在英伟达取得显著发展和AMD展现强劲实力方面发挥了关键作用。NVIDIA与AMD均为专注于设计的无晶圆厂半导体公司，它们的AI半导体生产均委托给专业代工厂台积电。台积电运用其先进的制程技术为Nvidia和AMD生产AI半导体，从而助力这两家公司取得技术进步。
另一方面，英特尔无法充分利用其尖端曝光设备EUV，导致难以利用尖端工艺制造AI半导体。而这与英特尔的低迷直接相关。此外，2021年被任命为英特尔第8任首席执行官的帕特·基辛格(Pat Gelsinger)已于12月1日辞职，为这一糟糕的业绩承担责任。
如此看来，代工厂台积电在AI半导体的生产中扮演着重要的角色。下面我们就来看看详细内容吧。
用于AI半导体的CoWoS封装
半导体的制造分为三个阶段：芯片设计、在硅晶圆上制造芯片的预处理以及从晶圆上切割芯片并封装的后处理。
这里的AI半导体是由无晶圆厂公司Nvidia和AMD设计的，而通常只执行前端工艺的代工厂台积电也负责后端工艺。NVIDIA的GPU和其他AI半导体采用名为CoWoS（基板上晶圆芯片）的封装制造（图5）。
图5 NVIDIA GPU等AI半导体制造流程
将使用图6更详细地解释该CoWoS。首先，安装一个HBM，其中GPU、CPU和DRAM堆叠在从硅晶圆上切下的方形中介层顶部。这个阶段是“CoW（晶圆上芯片）”。
图6 NVIDIA GPU等AI半导体中使用的CoWoS封装
接下来，将其上布置有各种芯片的硅中介层接合至封装基板。这个阶段是“WoS（衬底上晶圆）”。
综上所述，图6所示的封装被称为CoWoS（衬底上晶圆芯片）。那么，CoWoS和类似CoWoS的封装在哪里以及有多少制造能力？
按公司划分的CoWoS制造能力
图7显示了2023年至2025年各公司的CoWoS和类CoWoS包装制造能力。单位为每年1000片硅片。
图7按公司划分的CoWoS（类CoWoS）封装产能（1000片12英寸晶圆/年）
对比2025年的预测值，台积电拥有69万片/年，而专门从事后端工艺的半导体制造商OSAT（外包半导体组装和测试）的ASE拥有8万片/年（拥有同为OSAT的SPIL）OSAT的Amkor晶圆产量为67.2K片/年。
与此同时，英特尔和三星都在开发与CoWoS类似的封装，尽管并不完全相同。然而，到2025年，英特尔的制造能力只有10K晶圆/年，三星的产能也只有1K晶圆/年。简而言之，在类似于CoWoS的封装方面，英特尔和三星都没有竞争力。
相比之下，台积电2023年将占据CoWoS产能的79.1%，2024年为77.6%，2025年为81.3%。换句话说，NVIDIA的大部分AI半导体，包括GPU，都是采用台积电的CoWoS封装制造的。这就是为什么我一开始就说台积电是AI半导体的赢家。
最后，我们来看看高带宽内存（HBM），它对于NVIDIA GPU等AI半导体至关重要。
SK海力士垄断先进HBM
据报道，HBM的市场份额为SK海力士54%、三星41%、美光科技5%。
HBM于2016年左右开始开发，每一代都增加了DRAM层数。HBM1的堆叠层数为4层，HBM2和HBM2E的堆叠层数为8层，HBM3和HBM3E的堆叠层数为12层，这在我们进入一代AI时代时变得必要。此外，下一代HBM4预计将有16层。
图8随着DRAM堆栈数量的增加，高带宽内存(HBM)的路线图
HBM3之后，SK海力士几乎垄断了市场。此外，美光已经成功获得Nvidia的认证，而三星则没有。
换句话说，SK海力士目前在技术和市场份额方面都拥有较大领先优势。此外，为了解决尖端HBM的短缺问题，NVIDIA、台积电、SK海力士三家公司正在进行联合开发。内存制造商生产的大部分HBM都发送给台积电，并整合到CoWoS封装中。可以说，决定与台积电共同开发的SK海力士处于更有利的地位。
从包括HBM在内的所有DRAM产品的销售份额来看，SK海力士的快速进步可见一斑（图9）。SK海力士的市场份额在2022年第四季度为23.1%，此后迅速增至2024年第三季度的34.4%。领先者三星的份额有所下降（41.1%），与SK海力士的差距为6.7%。如果这种趋势持续下去，SK海力士最终可能会超越三星。
图9按公司划分的DRAM销售份额（~2024年第三季度）
第二轮AI半导体会发生什么？
到目前为止，我们已经讨论了第一轮AI半导体的获胜者是NVIDIA、台积电和SK海力士。AI半导体的竞争仍将持续，但第二轮将如何展开？
首先，在AI半导体方面，NVIDIA绝不安全。这是因为云制造商谷歌和亚马逊已经设计了自己的AI半导体，并开始将配备这些AI半导体的AI服务器引入其数据中心（图10）。
图10 AI半导体高端AI服务器（2023-2024）
根据预测，到2024年，将有33.6万台AI服务器配备NVIDIA的GPU，同时将有13.8万台AI服务器配备谷歌自主设计的AI半导体（TensorProcessingUnits，TPU），预计将成为一个平台。这意味着41%的AI服务器配备了NVIDIA GPU。
换句话说，对于英伟达来说，谷歌和亚马逊是客户，但也开始成为竞争对手。不仅如此，他还是一个强大的竞争对手。
与此同时，不仅英伟达的GPU，谷歌和亚马逊设计的AI半导体也都是采用台积电的CoWoS封装制造。而且，未来不太可能有半导体厂商取代台积电，台积电一家独大的时代可能还会继续。
此外，SK海力士在宽带内存HBM方面的优势预计还将持续一段时间。然而，三星和美光不能保持沉默，三家公司之间的三向竞争最终将展开。
