英伟达推出Magnum IO软件助力GPU绕过CPU,传输速度提升20倍

数据中心 中国闪存市场 Mavis 2019-11-22 10:42

近期,英伟达宣布推出Magnum IO软件组,能够帮助研究人员在数分钟内处理大量复杂的数据,数据迁移速度比以往提升20倍。

Magnum IO软件组的核心是GPUDirect Storage,数据可以绕过CPU,在GPU、存储设备和网络设备提供的“开放高速公路”上进行传输。由点对点及远程直接内存访问(RDMA)组成的GPUDirect存储,可兼容多种通信互联产品与API,其中包括NVIDIA NVLink、NCCL、OpenMPI及UCX。

使用Magnum IO软件组实现的数据加载方式

在传统的数据传输方式中,数据需要三跳才能从存储设备传输到GPU中,每次跳跃都需要时间,主机服务器内存会在存储设备和GPU之间充当临时的跳动缓冲区。GPU通过网络接口卡接收从本地或外部存储中获取的数据。这将被临时存储在主机服务器的DRAM中,并通过PCIe连接传输到GPU。

传统GPU数据加载方式

传统方式中,从主机服务器内存中到英伟达GPU的带宽最大为50GB/s。Magnum IO软件组能够支持多服务器,多GPU计算节点配置,多个SSD和网络适配器组合带宽可达215GB/s。

英伟达创办人暨首席执行官黄仁勋表示:“处理大量收集或仿真的数据,是AI这样由数据带动的科学研究领域的核心。随着数据的规模和出现速度呈现指数级增长,数据中心所面临的巨大挑战和成本考量就是数据处理。极致的运算需要有极致的输入/ 输出功能,而Magnum IO将颠覆运算领域的NVIDIA GPU加速技术用在输入/ 输出功能和存储设备上,做到了这一点。如今AI研究人员与数据科学家不用再等待数据,反而能专心在他们的研究工作上。”

现在Magnum IO软件组已经上市,但GPUDirect Storage暂时只为部分用户提供早期访问权限。黄仁勋表示,英伟达计划在2020年上半年向所有客户提供GPUDirect Storage。

推荐:电脑用的少,手机扫一扫,资讯快一步!

扫码关注我们

简讯快报

更多
⊙21小时前 15:43

因LPDDR4X市场需求持续萎靡,存储厂商实际出货遇阻,导致对资源的采购节奏也有所减缓,在存储厂商资源购买力减弱的拖累下,近期国产LPDDR4X Wafer及颗粒价格均出现下滑,尤其8GB LPDDR4X资源价格自上月以来已连续出现下跌。从成本端来看,资源价格回落虽有助于适度降低采购成本,但当前时间逼近季末后半段,终端客户普遍管控库存,整体备货需求十分低迷。本周4GB/8GB  LPDDR4X价格小幅下调。eMMC方面,10月份以来,个别存储厂商持续激进杀价,部分供应链包括代理、经销商、贸易商不计亏损也被动跟跌以加快周转,但下游客户普遍处于库存高企的状态,甚至个别客户作为昔日的采购方为降低库存水位、疏通现金流,反向通过渠道市场释放此前囤积的库存。随着低价eMMC货源不断增多,贸易价仍在持续下探且尚未止跌,存储厂商同容量eMMC产品官价与贸易价的差距进一步加大,本周多数eMMC产品价格继续下修,相应的,集成式eMCP、uMCP价格跟随调整。

LPDDR:LPDDR4X 64Gb 跌 2.22% 至 $88.00,LPDDR4X 32Gb 跌 3.33% 至 $58.00;

eMMC:eMMC 8GB 5.1 跌 3.03% 至 $16.00,eMMC 16GB 5.1 跌 2.86% 至 $17.00,eMMC 32GB 5.1 跌 2.78% 至 $17.50,eMMC 64GB 5.1 跌 2.78% 至 $17.50,eMMC 128GB 5.1 跌 7.14% 至 $26.00,eMMC 256GB 5.1 跌 7.62% 至 $48.50;

eMCP:eMCP(eMMC + LPDDR4X)64GB+32Gb 跌 8.48% 至 $75.50,eMCP(eMMC + LPDDR4X)128GB+32Gb 跌 5.62% 至 $84.00,eMCP(eMMC + LPDDR4X)128GB+48Gb 跌 5.71% 至 $99.00;

uMCP:uMCP(LPDDR4X + UFS2.2)6GB+128GB 跌 0.93% 至 $106.00,uMCP(LPDDR4X + UFS2.2)8GB+128GB 跌 6.20% 至 $121.00,uMCP(LPDDR4X + UFS2.2)8GB+256GB 跌 5.13% 至 $148.00。