显存容量及位宽对GPU显卡非常重要,完全依赖DRAM芯片的话成本很高,NVIDIA跟IBM联合开发了BaM(Big accelerator Memory,大型加速器内存)技术,可以让GPU直接绕过CPU限制,直连SSD硬盘,如果你有2TB的SSD,那么就是2TB的“显存”了。
现在的SSD硬盘主要是通过PCIe连接CPU的,GPU不能直接访问硬盘数据,BaM技术就是绕过这个限制的,类似技术理念早已有之,NVIDIA及IBM联合开发的BaM技术也是其中的一种。
按照他们公布的论文信息,BaM技术不依赖传统的虚拟地址转换,不再以CPU为中心,直接让GPU从内存及存储中获得数据并进行处理,无需CPU内核进行任务分配。
BaM技术的目标是扩展GPU内存容量,并提高有效的访问带宽,同时为GPU提供高级抽象,以便GPU可以按需、细粒度访问扩展内存中的海量数据。
这个BaM技术很容易让人联想到微软最近发布的DirectStorage及NVIDIA的RTX IO技术,二者本质上差不多,也是让GPU绕过CPU限制直接访问SSD上的数据,游戏中的加载时间大幅缩短,甚至可以秒进游戏。
不过BaM目前主要用于GPU高性能加速领域,包括GPU计算及机器学习等,目前还处于原型阶段,具体何时应用还没确定时间。