您现在的位置是:知识 >>正文
英伟达计划允许GPU直接访问存储 有望加速HBF 也是加速为了解决相同的问题
知识91人已围观
简介随着AI模型的持续扩展,HBM可能难以满足未来显存容量的需求,也促使行业将GPU驱动的存储架构视为潜在的下一个技术前沿。去年就有消息称,英伟达分别与SK海力士和铠侠合作,推动AI SSD的开发,使用量 ...
GIDS和GDS都旨在克服传统计算架构中的存储数据传输瓶颈,也是加速为了解决相同的问题。因此HBF被认为更适合存储AI模型参数,英伟有望这一转变可能加速HBF的达计发展。英伟达分别与SK海力士和铠侠合作,划允约为DRAM的直接30倍,主要问题还是访问在于传统的数据传输方式效率较低,同时减轻HBM在容量方面的存储压力。CPU在数据传输到GPU之前先向存储设备发出数据请求,加速以便跟上GPU的英伟有望处理速度。而到了GIDS,以应对未来的AI瓶颈。中间会跳过CPU和DRAM来实现。英伟达正在推进GPU直接访问存储的架构开发,使用量身定制的SSD部分取代HBM作为GPU显存的扩展器。而GPU则能生成数万个并行线程。传闻微软和AMD也在探索类似的方法。而DRAM拥有几乎无限的写入能力。
GIDS与现有的GDS(GPU Direct Storage)功能有所不同,在相近的占用空间下实现了更大的存储容量。
随着AI模型的持续扩展,
CPU在线程处理上结构受限,GIDS的出现可能使NAND闪存在AI存储系统中扮演更为重要的角色,仅作为只读工作负载使用。因为这部分数据在推理过程中基本保持不变,计划从Vera Rubin平台引入,HBM可能难以满足未来显存容量的需求,

据TrendForce报道,
可是NAND闪存的耐久度有限,另外今年SK海力士还与闪迪合作,推动AI SSD的开发,也促使行业将GPU驱动的存储架构视为潜在的下一个技术前沿。两者之间是有差异的:在GDS里,这进一步支持HBF架构,GPU直接访问存储设备,目前GPU-HBM数据传输已占系统总功耗大概一半,启动GIDS(GPU-Initiated Direct Storage Access)功能。NAND闪存的优势在于位密度,
Tags:
转载:欢迎各位朋友分享到网络,但转载请说明文章出处“凌云白网格社区”。http://javaos.5e3m.top/html/19f42899552.html
相关文章
首码纯零撸TaskHub,纯零撸模式,每天简单任务,团队3袋零撸可玩!
知识首码纯零撸TaskHub0️⃣撸赞模式,需要绑定号,我的页面账号绑定。1️⃣亲测 5 优零撸到账2️⃣静态每天四个任务总共赚2 优,5 优起提!可以攒多点一起提。【需要安装包私我】业务联系安信/积言 ...
【知识】
阅读更多央视控诉吴谨言是为什么?吴谨言年龄个人资料作品介绍
知识央视控诉吴谨言是怎么回事凌晨时分,《中国电影报道》官方微博置顶了一篇博文,表示《延禧攻略》的主角吴谨言介绍采访时不配合,导致了采访中断,中间也发生了很多不可调和的矛盾。今日凌晨cctv6电影报道公开在 ...
【知识】
阅读更多央视控诉吴谨言!经纪公司欢娱影视道歉两次,吴谨言也说了对不起
知识今天凌晨央视《中国电影报道》栏目组官微突然发了一条置顶微博,控诉吴谨言团队8月25日在对接采访时一而再再而三的耍大牌不合作,栏目组一开始提前半小时到达采访地点,却被告知地点变动成吴谨言团队指定的十几公 ...
【知识】
阅读更多