英伟达与 Solidigm 探讨面向未来的 AI 存储：展望 2026 年及以后的速度、规模与散热需求

欢迎收看 Serve the Home 的 Patrick Kenedy 与英伟达的 Kevin Deierling 及 Solidigm 的 Greg Matson 共同探讨 AI 存储技术的对话。在这次对话中，他们剖析了当今 AI 基础设施领域正在发生的重大变革 存储作为关键性能层在 AI 工厂中的崛起。

随着 AI 从训练转向推理，并进一步演进至具备自主行动能力的智能体工作流，对内存及数据基础设施的需求正呈爆炸式增长。从 KV 缓存复用到上下文内存，本次讨论探讨了为何传统架构已不再适用，以及一种新型存储层级如何应运而生，以确保 GPU 保持高利用率。

您还将了解到，液冷 SSD、极致协同设计以及全栈优化等创新技术，正如何塑造从超大规模数据中心到边缘部署的 AI 系统未来。

• 访谈人：Patrick Kennedy（来自 Serve the Home）
• Solidigm 嘉宾：Greg Matson（高级副总裁兼产品与营销负责人）
• NVIDIA 嘉宾：Kevin Deierling（网络业务高级副总裁）

第 1 章：2026 年是内存和存储之年

来自 Solidigm 和英伟达的观点

AI 革命面临着存储难题，而整个行业终于公开承认了这一点。

在 2026 年初举行的各大科技盛会上，芯片与系统领域最具影响力的企业之间形成了一个引人注目的共识：我们正处于内存与存储发展的关键转折点。

NVIDIA 高级副总裁 Kevin Deierling 直言不讳地指出： “这是属于内存与存储的一年，这一点至关重要，因为存储是至关重要的一层。它实在太重要了。我们现有的资源根本不够，而 AI 需要更多的内存和存储空间。”

这一表述直击 AI 扩展挑战的核心。多年来，GPU、模型架构和训练算力占据了头条。然而，随着模型规模不断扩大，推理需求呈爆发式增长，瓶颈已悄然转移。数据必须存放在某处，而如何快速将其传输到计算端，已成为本十年最关键的工程挑战。

作为全球领先的 NAND 闪存制造商之一，Solidigm 早就提出了这一观点。我们的看法很简单：AI 工作负载对存储的需求巨大且永无止境，从训练基础模型所需的拍字节级存储，到实时推理及检索增强生成 (RAG) 对低延迟检索能力的要求，无不如此。存储层不再是外围组件，而是基础组件。

2026 年之所以与众不同，在于它是紧迫感与普遍共识的交汇节点。超大规模云服务商正竞相构建“AI 工厂”，而每一座 AI 工厂都需要一套能够跟上加速器步伐的存储与内存架构，这些加速器每秒可执行数万亿次运算。计算能力与存储带宽之间的差距，从未像现在这样显著，也从未像现在这样影响深远。

Solidigm 和英伟达传达的信息如出一辙：尽管芯片备受瞩目，但真正让 AI 发挥作用的却是存储技术。

第 2 章：上下文存储的兴起

为何 AI 需要在速度与规模之间建立一个新的层级

几十年来，存储层级结构已成定局：顶层是极速的 DRAM，中间层是高密度且经济实惠的 NAND 闪存，底层则是磁带或云端归档存储。每一层级都各司其职。各项权衡取舍也都得到了理解。

随着推理工作负载的扩展以及上下文窗口延伸至数百万个 Token，一种新的架构压力随之出现，而 DRAM 和传统 SSD 均非为解决此类问题而设计。该行业需要一种介于两者之间的方案：既具备足以容纳海量 AI 上下文的高容量，又能以足够快的速度向“饥渴”的加速器输送数据，同时还摆脱了全持久性保证所带来的开销。

英伟达的 Kevin Deierling 最清晰地阐述了这一正在成形的新趋势：“我们现在拥有了一个非常理想的新型存储层级，其容量和性能介于现有层级之间；而且，由于数据随时可以重新计算生成，这一层级无需具备持久性。”

最后一点是关键所在。传统存储的前提是数据必须不惜一切代价地保存下来。但是，AI 的上下文，即激活值、键值缓存和中间状态（这些因素使模型能够与对话或任务保持关联），本质上都是短暂的。如果丢失了，就无法从备份中恢复，只能重新计算。这彻底改变了设计要求，从而开启了一类针对吞吐量和密度进行优化的存储解决方案，而非侧重于耐用性和持久性。

这正是 Solidigm 及更广泛的 NAND 生态系统看到重大机遇所在。针对 AI 推理实际读写模式而专门构建的上下文存储，能够显著降低 DRAM 的内存压力，同时保持低延迟，确保其不成为关键路径上的瓶颈。

存储层级结构并未被取代，而是新增了一个专为新型 AI 工作负载而构建的、至关重要的层级。

第 3 章：从存储到散热

深入了解 Solidigm 与英伟达的 AI 协同设计引擎

构建 AI 工厂并非一项单纯的采购工作。这是一项工程杰作，从 PCB 上的铜质线路到服务器机箱内的气流走向，每一个组件都必须经过精心设计，以实现协同运作。那种东拼西凑现成部件、然后听天由命的时代已经结束了。

这正是英伟达所称的“极致协同设计”背后的核心理念，这套协作模式早已超越传统厂商合作关系。正如 NVIDIA 高级副总裁 Kevin Deierling 所解释的那样，“极致协同设计”意味着各方联合打造真正面向市场需求进行优化的方案。它具备恰到好处的密度、功率和热性能。所有这些要素必须协同整合，以构建最高效的 AI 工厂。

在那句话里，“极致”一词发挥了关键作用。这一层面的协同设计意味着，像 Solidigm 这样的存储厂商不再仅仅是在 GPU 规格确定之后才做出被动响应。他们很早就参与其中，与负责定义 AI 加速器对其周边基础设施各项要求的计算架构师一道，共同规划产品的外形规格、功耗范围及热特性参数。

密度、功耗与热特性构成了一个紧密耦合的三角关系。若在不解决功耗问题的情况下过度追求高密度，便会引发导致性能受限的热问题；反之，若只顾优化散热而忽视物理布局，则会牺牲机架效率，而这种效率正是确保 AI 工厂具备经济可行性的关键。每一个决定都会引发连锁反应。

对于 Solidigm 而言，这意味着所研发的 NAND 解决方案不仅要满足纸面规格，更要契合下一代 AI 基础设施在物理与电气层面的实际需求：即在合适的尺寸与功耗范围内提供恰当的容量，并以符合系统设计预期的散热方式运行。

第 4 章：AI 工厂的未来

从千兆瓦规模到无处不在的智能

随着 AI 普及步伐的加快，“AI 工厂”这一概念正迅速演变，从集中式超大规模基础设施，转变为全球分布式的智能平台。在与英伟达的 Greg Matson 和 Kevin Deierling 的交流中，一个关键主题浮现出来：下一代 AI 基础设施的定义，不仅取决于规模，更取决于计算、网络、存储和电力如何作为统一系统高效协同工作。

千兆瓦 AI 工厂正成为模型训练与大规模推理的新支柱，这要求在能效、液冷、高性能互连及数据传输等方面实现前所未有的技术突破。挑战已不再仅仅是构建规模更大的集群，而是构建能够支撑工业级规模持续产出智能的底层架构。

与此同时，AI 的未来将不会仅仅存在于庞大的集中式数据中心内。智能正日益向数据产生源头靠拢，决策过程也随之在企业、工厂、医疗卫生系统、金融市场、研究机构及边缘计算环境中展开。

这种向“万物智能”的转变正在重塑基础设施的设计重点。AI 工厂必须同时支持超大规模的集中式训练，以及具备低延迟和实时响应能力的高度分布式推理。

正如 Greg Matson 和 Kevin Deierling 所探讨的那样，在下一个时代，成功将取决于如何在整个 AI 技术栈中平衡性能、功耗与数据可访问性。能够高效统筹从边缘、核心到云端数据的组织，将定义下一波 AI 创新浪潮。