异构+Chiplet—通往数据中心的能效之路

2023-06-22
关注

随着以大模型为代表的AIGC迅速崛起,数据到算力需求的持续暴涨,为数据中心带来了巨大的考验。为填补算力鸿沟,下一代数据中心必须要具备更高的算力密度、更大的网络规模,并能够灵活地部署和更新海量新应用。

在这一轮新的技术方向中,异构计算架构和Chiplet技术因能有效提升复杂场景计算效率,算力密度和网络规模,被普遍视为通往数据中心未来的能效之路。

AIGC或将撕开数据中心算力缺口

在AI大模型飞速发展之下,单个大语言训练驱动AI训练服务器需求约2亿美元,AI推理服务器方面,如ChatGPT在初期便可带动推理服务器需求约45亿美元。

据中国信通院,2021年国内IDC市场规模1500.2亿元,同比增长28.5%。据信通院预计,随着我国各地区、各行业数字化转型深入推进、AI训练需求持续增长、智能终端实时计算需求增长,2022年国内市场规模将达1900.7亿元,同增26.7%。

算力作为大模型的核心引擎,计算方式简单粗暴,即实际拥有多少的GPU芯片,将直接决定其算力的大小。以ChatGPT为例,其模型计算主要基于微软的Azure云服务进行,本质上是借助微软自有的IDC资源,在云端完成计算过程后,再将结果返回给OpenAI。

AIGC所需的算力不是固定的,而是逐次递增的。数据中心是承接AI计算需求的直接形式,其算力需求为AIGC的能力所驱动,也就是AIGC越聪明,其背后所需要的算力就越多,而供需双方存在的现实差距,则让数据中心的算力缺口变得愈加严重。

互联网厂商布局ChatGPT同类产品,或将加大核心城市IDC算力供给缺口。艾瑞咨询数据显示,2021年国内IDC行业下游客户占比中,互联网厂商居首位,占比为60%,国内核心城市IDC算力供给缺口或将加大。

AIGC时代,智能算力崛起

随着人工智能进入新的发展周期,以及大模型的兴起,传统的芯片需求结构发生了变化。尽管总体算力仍在增长,但通用计算力由CPU主导的比例正在下降,而智能计算力由GPU主导的比例逐渐增加。

目前,GPU在AI芯片市场的占比约为90%。根据VMR的数据,2021年全球GPU行业市场规模为334.7亿美元,随着大型模型训练的成熟,预计到2030年将达到4773.7亿美元,年均增长率为34.35%。

新华三集团副总裁、计算存储产品线总裁徐润安在接受媒体采访时表示,智能算力占比变大原因在于,x86架构CPU单核性能强、通用性好。但AI场景需要多核、高并发、高带宽芯片。综合考虑成本、效率,GPU、DPU、NPU通常表现更好。CPU部分职能被其他专用芯片分担。在他看来,大模型会带来巨大的智能算力消耗。

Chiplet:破局数据中心未来

近20年中,单一的制程微缩已被证明无法赶上对性能需求的步伐。尤其是在数据中心,情况远比客户端产品更为复杂,一个非常典型的情况是多个客户端在同一产品上运行工作负载,如多核CPU或GPU。于是,人们开始将未来依托在将计算单元、内存等和其他模块成在同一封装上的Chiplet异构集成路线之上。

Chiplet架构对于服务器处理器而言意义非凡,大大降低了处理器的开发门槛和成本,起到了巨大的推动作用。正如AMD开创性的chiplet产品所证明的那样,转向chiplet技术可以显著改善数据中心的计算成本,并提高互连效率。迄今,全球主流服务器芯片厂商都开始将chiplet纳入自身产品的主要路径之一。

就此,英特尔 IO 技术解决方案团队战略家Kurt Lender 总结了 chiplet 技术的影响“有合理的预期,未来 10 年的 HPC 采购将利用 chiplet 技术更好地支持他们的科学工作负载。” AMD 的 CEO Lisa Su也表现出了同样的期待,当被问及她是否认为未来 10 年的 HPC 采购指定定制chiplet设计的计算芯片而不是现成的商品时,她回答“是”。

Kurt Lender 表示,创建基于 UCIe 的chiplet 设计在成本方面具有显著的优势,“有各种纵向扩展和横向扩展的成本优势,包括由于与单片硅设计相比占地面积更小而导致chiplet的高良率而节省的成本,以及能够指定可以利用 HPC 冷却功能的高密度、高功率封装。在其最完整的表达中,基于chiplet 的架构使设计人员能够将来自多个供应商的 IP 和不同职称工艺技术的芯粒快速集成到一个封装中。”

关于随着以大模型为代表的人工智能大规模计算的迅速崛起,数据中心的算力难题不断加剧。而异构和Chiplet会将数据中心的未来引向何处,还让我们拭目以待。‍‍‍‍‍‍‍




审核编辑:刘清

  • 大数据
  • 芯片
  • 数据中心
  • 异构计算
  • 异构网络
您觉得本篇内容如何
评分

评论

您需要登录才可以回复|注册

提交评论

慧生活

这家伙很懒,什么描述也没留下

关注

点击进入下一篇

这波AI浪潮里被冷落的Meta,要自研芯片了

提取码
复制提取码
点击跳转至百度网盘