GPU集成12颗HBM4，台积电CoWoS-L、CoW-SoW技术演进

电子发烧友网报道（文/黄晶晶）日前消息，台积电计划于2027年量产CoW-SoW（晶圆上系统）封装技术，该技术是将InFO-SoW（集成扇出晶圆上系统）与SoIC（集成芯片系统）结合，把存储器和逻辑芯片堆叠在晶圆上。这一技术的推进是为了应对更强大的人工智能芯片以及AI趋势下集成更多HBM存储芯片的需求。

台积电的InFO-SoW已经用于Cerebras AI芯片、Tesla Dojo的处理器等上面。其中，Cerebras Systems打造的超大AI芯片，采用互连的方法将所有内核放在同一块硅晶圆上，台积电曾表示其扇出型封装技术使芯片厚度减少20%，成本降低30%，同时互连功耗降低15%。也就是说数据移动快速且低功耗。而特斯拉Dojo超算系统集成25个D1芯片的训练模块，也是通过台积电的InFO_SoW整合扇出技术来实现的。

而InFO-SoW主要还是以一种制造工艺进行生产，难以进行不同工艺Die的集成。CoW-SoW的出现能够更好地整合逻辑芯片和存储芯片的集成，并获取更高的互联带宽。据台积电介绍，CoW-SoW技术的面积可比当前光罩极限大40倍，并且可以将HBM容量扩展60倍。这将使人工智能和大型数据中心的巨型芯片的开发成为可能。

2024年6月黄仁勋宣布下一代数据中心GPU架构平台Rubin将集成 HBM4 内存，Rubin GPU 和Rubin Ultra GPU预计分别于2026年和2027年发布。根据曝料，Rubin架构首款产品为R100，采用台积电3nm EUV制造工艺，四重曝光技术，CoWoS-L封装，预计2025年第四季度投产。Rubin GPU将配备8个HBM4芯片、 Rubin Ultra GPU 将集成12颗HBM4芯片。这也是英伟达首次在其AI芯片中使用12颗HBM 芯片。

这里的CoWoS-L是CoWoS提供三种不同的转接板技术之一，是CoWoS未来发展的关键技术。根据台积电的规划，其将于2026年推出，可将中介层尺寸拓展至光罩极限的5.5倍,可支持12个HBM内存堆栈，也就是单一封装中整合更多计算和存储资源，进一步满足AI性能的需求。

考虑到台积电CoW-SoW技术计划于2027年开始量产，外界认为有可能会被英伟达的Rubin Ultra采用。

另据早前的报道，SK 海力士希望将HBM4通过3D堆叠的方式直接集成在芯片上。外媒认为，Nvidia和SK海力士很可能会共同设计这种集成芯片，并借助台积电进行代工。通过台积电的晶圆键合技术将SK海力士的HBM4芯片直接堆叠到逻辑芯片上，HBM无需中介层。

市场调研机构Yole预测，先进封装市场在2021-2027年间复合增长率将达到9.81%，到2027年市场规模将达到591亿美元。此外，2.5D/3D封装技术将实现显著增长，预计其复合增长率将达到13.73%，到2027年2.5D/3D封装市场规模预计将达180亿美元。

诚然，AI性能的不断提升需要依靠算力、存力和运力的综合能力，单纯的依靠先进制程来提升算力已不足够。尤其是将大AI芯片与更多存储更近距离的集成是AI性能不断突破的关键，先进封装对于AI芯片的优化起到越来越重要的作用。