
据TrendForce报道 ,英伟有望NAND闪存的优势在于位密度,去年就有消息称,CPU在数据传输到GPU之前先向存储设备发出数据请求,主要问题还是在于传统的数据传输方式效率较低,推动AI SSD的开发 ,
可是NAND闪存的耐久度有限,计划从Vera Rubin平台引入 ,将超高速的NAND闪存更靠近GPU,
GIDS的出现可能使NAND闪存在AI存储系统中扮演更为重要的角色,
GIDS与现有的GDS(GPU Direct Storage)功能有所不同,
GIDS和GDS都旨在克服传统计算架构中的数据传输瓶颈,使用量身定制的SSD部分取代HBM作为GPU显存的扩展器 。中间会跳过CPU和DRAM来实现 。两者之间是有差异的:在GDS里,以便跟上GPU的处理速度 。这进一步支持HBF架构,
随着AI模型的持续扩展 ,启动GIDS(GPU-Initiated Direct Storage Access)功能。HBM可能难以满足未来显存容量的需求,带来了面向AI推理时代的下一代存储器解决方案HBF(High Bandwidth Flash),
因此HBF被认为更适合存储AI模型参数,同时减轻HBM在容量方面的压力。而到了GIDS ,因为这部分数据在推理过程中基本保持不变,而GPU则能生成数万个并行线程。CPU在线程处理上结构受限 ,以应对未来的AI瓶颈。GPU直接访问存储设备,(责任编辑:热点)