HBM分离封装与光互联技术突破内存墙限制

作者:技术拾光

时间:2026-05-25

浏览:511

为解决AI芯片“内存墙”问题,业界正探索将GPU与高带宽内存分离封装,通过光互联技术桥接数据传输。传统紧贴封装或堆叠方法面临物理与成本瓶颈,光互联利用光信号高速传输,可抵消距离延迟并释放GPU周边空间。该技术已从机架间互联向芯片间互联逐步推进。

解决AI芯片的“内存墙”问题,业界似乎正在酝酿一场架构革命。据最新消息,全球内存与封装产业正在评估一种碘伏性的思路:将GPU与高带宽内存(HBM)拆分开来,各自独立封装,再通过先进的光学互联技术桥接数据传输。

这并非空想。一位韩国存储厂商的研究人员透露,当前通过增加堆叠层数或紧贴封装来扩展HBM带宽与容量的传统路径,正遭遇物理结构上的瓶颈。他们正与客户探讨,如何利用光学互联技术,突破GPU芯片“海岸线”的物理限制,从而为系统搭载更多HBM内存。

HBM分离封装与光互联技术突破内存墙限制

回顾历史,HBM之所以一直采用紧贴GPU的2.5D封装,核心目的就是为了将数据传输延迟降到最低。然而,GPU芯片本身的边缘长度已逼近物理极限,周边那点宝贵空间,再也塞不下更多的HBM堆栈了。

那么,向上堆叠呢?这条路同样走到了十字路口。HBM堆叠层数从12层、16层向20层以上迈进,工艺复杂度和良率挑战呈指数级上升,成本与可靠性的压力越来越大。

于是,分离式架构应运而生。新思路是将HBM安置在距离GPU数厘米的位置上,可以围绕GPU环形排列,也可以在电路板中央设置独立的HBM区域。你可能会问:距离拉远了,延迟岂不是增加了?

关键就在于“光”。光学互联技术利用光信号传输数据,其速度远超传统的电信号。因此,即便物理距离增加,所带来的额外延迟也微乎其微,完全在可接受的范围内,甚至可能被光速传输的优势所抵消。

这并非纸上谈兵。在2025年的Hot Chips大会上,Celestial AI公司已经展示了其光子互联模块。该技术能够围绕GPU封装实现光学输入/输出,从而将GPU周边最珍贵的空间彻底释放出来,全部留给HBM使用。

一位全球顶级OSAT(外包半导体封装和测试)厂商的高管印证了这一趋势。他表示,光学互联已是明确的产业方向,其落地路径很可能是渐进的:先从机架间、服务器间的互联开始,再逐步渗透到单块电路板内部的芯片间互联。至于芯片间光互联何时到来,他的判断是:可能不会太遥远。

HBM分离封装与光互联技术突破内存墙限制

实用工具推荐

电子包浆

绿化、压缩、噪点和虚拟水印,自由调节做旧程度。

使用 ›
图片压缩

选择画质和输出格式,预览压缩前后的大小。

使用 ›