闪迪HBF技术革新AI存储：单GPU容量跃升至4TB，前沿模型推理无忧！

闪迪公司即将在今年一季度完成从西部数据的拆分，并踏上独立上市的新征程。近日，在面向投资者的活动中，闪迪揭开了其前沿技术——高带宽闪存（HBF）的神秘面纱，这一技术有望重塑AI推理GPU存储生态。

HBF作为闪迪的带宽优化NAND产品，其设计理念深受HBM启发，采用了类似的架构特点，如大量的I/O引脚和多层堆叠，并共享了HBM的电气接口，实现了带宽的匹配。然而，由于存储介质从DRAM转变为NAND，HBF对协议进行了相应的调整，因此与HBM并不完全兼容。

在HBF的内部结构中，多层核心裸晶通过微凸块和硅通孔技术紧密堆叠，底部则设置了负责与计算芯片通信的逻辑裸晶。闪迪自豪地宣布，其HBF技术能够实现极低的裸晶翘曲，目前最高已实现16层堆叠，单个堆栈容量惊人地达到了512GB。

这一突破性的技术意味着，在2.5D集成下，仅8个HBF堆栈的单个AI GPU就能拥有4096GB（即4TB）的存储空间，这一容量是纯HBM方案的20倍以上。如此庞大的存储空间，足以满足参数约1.8T的前沿大型语言模型（LLM）的推理运行需求。

更令人瞩目的是，由于HBF与HBM在技术路线和性能参数上的相似性，AI GPU可以灵活配置这两种存储，形成如3072GB HBF + 48GB HBM等高度自定义的组合，为用户提供前所未有的存储灵活性。

除了AI推理GPU领域，HBF技术同样有望在边缘AI领域大放异彩。单颗HBF就能容纳完整的64B模型，这一特性无疑将极大地推动边缘AI的发展。

闪迪的HBF高带宽闪存开发并非孤军奋战，它得到了众多主要AI企业的鼎力支持。闪迪计划推动构建HBF开放标准生态系统，以实现无缝的系统集成，进一步加速技术的普及和应用。

对于未来的HBF产品，闪迪早已有了明确的规划。他们致力于在第三代产品中实现2倍容量的提升、2倍读取带宽的增强，以及36%功耗的降低，持续引领存储技术的革新。