SK海力士和台积电是卡英伟达脖子的幕后玩家?

前言: 在英伟达一步步站稳万亿市值的道路上,少不了两项关键技术支持:台积电主导的CoWoS高端封装和头部存储厂持续迭代的HBM(高带宽存储)。  英伟达想赚钱,还得看台积电和SK海力士的脸色行事

前言:

英伟达一步步站稳万亿市值的道路上,少不了两项关键技术支持:台积电主导的CoWoS高端封装和头部存储厂持续迭代的HBM(高带宽存储)。 

英伟达想赚钱,还得看台积电和SK海力士的脸色行事。

作者 | 方文三

图片来源 |  网 络 

图片 

HBM内存:供应短缺的罪魁祸首之一

从面积占比的角度看,英伟达在H100芯片中所占的部分大约只有50%。

 

观察芯片的剖面图,可以发现H100裸片在核心位置,而其两侧各有三个HBM堆栈,它们的面积总和与H100裸片相当。

 

而这六颗看似普通的内存芯片,正是导致H100供应短缺的重要因素之一。

 

目前,SK海力士在HBM市场中占据了50%的份额,并独家向英伟达提供HBM3E产品。

 

这种独家供应的情况严重制约了H100的出货量:在需求急剧增加的情况下,据说SK海力士已制定了一项产能翻番的目标,并已着手进行产线扩建。

 

尽管三星和美光等其他厂商也对HBM3E表示出浓厚的兴趣,但在半导体行业中,产线的扩建并不是一项可以轻易完成的任务。

 

按照乐观的估计,需要9至12个月的时间,HBM3E的产能才能得到充分提升。因此,至少要到明年第二季度,才能看到HBM3E产能得到补充。

 

除此之外,即使解决了HBM的产能问题,H100的供应量仍受制于台积电的表现。 

图片

HBM的主要挑战是封装和堆叠存储器

HBM是垂直堆叠DRAM芯片,通过硅通孔(TSV)连接,并使用TCB键合(未来需要更高的堆叠数量)。

 

人工智能加速器的性能受到从内存中存储和检索训练和推理数据的能力的瓶颈:这个问题通常被称为内存墙。

 

为了解决这个问题,领先的数据中心GPU与高带宽内存(HBM)共同打包。

 

SK海力士公司于2022年6月开始生产HBM 3,目前是唯一一家批量交付HBM 3的供应商,市场份额超过95%,这是大多数H 100 SKU正在使用的产品。

 

HBM的主要挑战是封装和堆叠存储器,这是SK海力士所擅长的,积累了最强的工艺流程知识。

图片

HBM和CoWoS是相辅相成的

HBM的高焊盘数量和短迹线长度需求,需要通过2.5D先进封装技术如CoWoS来实现。

 

CoWoS是一种主流封装技术,能够以合理的成本提供最高的互连密度和最大的封装尺寸。

 

然而,目前几乎所有的HBM系统都封装在CoWos上,而所有先进的人工智能加速器都使用HBM,因此几乎所有领先的数据中心GPU都是台积电封装在CoWos上的。

 

随着GPU需求的爆炸式增长,供应链中的这些部分无法跟上并成为GPU供应的瓶颈。

 

为了满足更多的封装需求,台积电一直在做好准备,但可能没有预料到这一波生成式人工智能需求来得如此之快。

 

在6月份,台积电宣布在竹南开设先进后端晶圆厂6。该晶圆厂占地14.3公顷,足以容纳每年100万片晶圆的3DFabric产能。

 

然而,与客户产品之间的配合沟通调试,如何更好地与GPU、NPU这类芯片匹配,实现更大带宽和更好能效,才是HBM技术的关键竞争力所在。

图片

CoWoS封装:成了英伟达唯一的选择

但实际上,每颗H100给台积电带来的收入很可能超过1000美元,原因就在于H100采用了台积电的CoWoS封装技术,通过封装带来的收入高达723美元。

 

台积电的CoW区别于其他先进封装的亮点在于,是将裸片和堆栈放在一个硅中介层(本质是一块晶圆)上,在中介层中做互联通道,实现裸片和堆栈的通信。

 

考虑到带宽与数据传输速率息息相关,CoWoS便成了H100的唯一选择。

 

虽然CoWoS效果逆天,但4000-6000美元/片的天价还是拦住了不少人,其中就包括富可敌国的苹果。因此,台积电预备的产能相当有限。

图片

然而,AI浪潮突然爆发,供需平衡瞬间被打破。

 

但正如HBM扩产不易,台积电扩产也需要时间。

 

目前,部分封装设备、零组件交期在3-6个月不等,到年底前,新产能能开出多少仍是未知。

 

2023年英伟达H100预计出货量在50万颗,但英伟达计划明年出货至少150万颗H100处理器

 

英伟达的H100、A100全部由台积电代工,并使用台积电的CoWoS先进封装技术,除了英伟达外,其他厂商也对台积电的CoWoS有需求,为此CoWoS产能供不应求。

 

CoWoS产能不足的背景下,依靠CoWoS封装的H100,自然被台积电扼住了咽喉。

 

图片

结尾:

正如远水无法解近火之急,扩大产能并不存在捷径。

 

就英伟达的竞争者而言,他们正在抓住H100所拥有的43.2万张的缺口。AMD公司已推出MI300,对A100和H100提出了挑战。

 

部分资料参考:21世纪经济报道:《英伟达身后的较量》,远川科技评论:《谁卡了英伟达的脖子?》

       原文标题 : AI芯天下丨分析丨SK海力士和台积电是卡英伟达脖子的幕后玩家?

免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。

相关推荐

  • 特殊现象,韩国企业无需中国市场也在多个行业占据全球前三

    一直以来国内业界都喜欢说如果没有中国市场,外资企业将会如何如何,然而全球也有一些企业无需中国市场也能位居全球前列,特别是韩国这个邻国,它就有几家企业在中国市场失败了,但是却能稳居全球前三。

    2024-04-09
    0
  • 美国芯片法案的贪嗔痴

    ?随着特朗普与拜登都再次成为2024年总统候选人,今年的美国大选似乎又会“花样百出”。为了今年的选举,拜登政府的动作颇多。博弈之际,芯片行业也深受影响。就在3月20日,美国

    2024-03-23
    0
  • 美股不止七姐妹,还有一个AMD

    图文 | 躺姐 任何一个想要做生成式大模型的企业,都会是英伟达或者AMD的客户,而且这个需求只会与日俱增。 前段时间,OpenAI创始人Sam Altman在瑞士达沃斯的讲话环

    2024-02-04
    0
  • 2023年芯片进口,出口,产量分析:芯片自给率明显提高了!

    这几年,芯片产业是大家最关注的产业,因为从目前的情况来看,信息化、数字化都离不开芯片,芯片是一切科技产业的基础。而美国作为全球芯片霸权,当然不希望它的地位受到挑战,所以这几年看到中国芯片产业崛起后,是

    2024-01-20
    0
  • 芯片代工市场洗牌?中芯国际份额追上联电、格芯,全球第3

    众所周知,这几年芯片代工市场几大厂商的排名、份额总体来讲,是比较稳的,特别是前五名,基本上就没怎么变化过。 不过,随着2023年3季度的数据出炉,我们发现这一季度,似乎有了很大的变化,说在洗牌也没太过于夸张,因为第三、四、五名的份额,居然变成一样的了

    2023-12-30
    0
  • 3114亿块,中国芯片产量出炉,逆全球化大增长

    近日,国家统计局官网更新了11月份,国内集成电路的产量。 数据显示,11月份,集成电路的总产量是334.6亿块,同比大增27.9%。而1-11月份,国内累计集成电路的总产量是3113.8亿块,同比增长3.7%

    2023-12-29
    0
  • 美国的芯片产业链梦, 张忠谋开怼:天真

    作为全球第一的独立晶圆代工厂,台积电前脚刚跟拜登政府相处融洽,去美国建厂。然而,近期又传张忠谋公开表示觉得拜登政府“天真”,多少有些出人意料。“饼”画的圆,却难兑现台积电一直都是美国半导体产业的关键合

    2023-12-20
    0
  • 重大突破,国产芯片公布3纳米关键技术,台积电也未能实现

    据媒体报道指,在美国第69届IEEE国际会议上,国产芯片企业发布了一项GAA(环绕栅极)技术,该项技术为3纳米的关键技术,显示出国产芯片并未因为芯片设备的限制而停止研发先进工艺。 GAA技术对于

    2023-12-18
    0
  • 产业丨[迷你晶圆厂],能助日本重回巅峰吗?

    前言: 目前,由于物联网、大数据和人工智能的快速发展,各行业正在发生深刻的变革。与此同时,日本开始寻求从全面制造业发展向高精尖领域的转型。 迷你晶圆厂具备灵活制造的优势,特别适合于高混合量小批量半导体产品的生产模式

    2023-10-05
    0
  • 存储涨价,半导体周期反转了吗?

    作为一个周期性行业,半导体行业自22Q2算起,至今已经历了5个季度的下行周期。要知道,一个完整的半导体周期的持续长度为平均40个月左右。换言之,半导体行业此轮下行周期时长快要达到历史平均水平。 在绝大部分人看来,半导体周期反转几乎是一个确定性机会

    2023-10-02
    0