AI Field Day 8：Solidigm 阐述存储作为 AI 基础设施基石的论点
当人们讨论 AI 基础设施时，话题往往围绕着 GPU 展开。在 2026 年 5 月 14 日于加利福尼亚州圣何塞现场录制的 AI Field Day 8 活动中，Solidigm 重返代表席前，带来了一个日益紧迫的信息：存储不再是计算规模确定后才考虑的附加项，而是一个需要从第一天起就纳入考量的设计决策——它直接影响延迟、吞吐量、推理质量、功耗，以及最终大规模运行 AI 的经济效益。
在由 AI 解决方案与软件高级首席工程师 Kapil Karkra 和 AI 基础设施营销与战略总监 Scott Shadley 主讲的三场演讲中，Solidigm 带领与会者从单个 AI 提示词的生命周期出发，了解了用于衡量智能本身的新框架，并深入探讨了使这一切成为可能的物理硬件创新。以下是每场会议的高层次概述。
1. Solidigm 提示词剖析
在首场演讲中，Kapil Karkra 带领观众深入探索单个用户提示词，揭示看似瞬时的响应背后，究竟需要多少存储作为支撑。在 Scott Shadley 的共同主讲中，本次演讲将存储重新定义为大语言模型 (LLM) 所处理的每一个提示词的静默组装者，并剖析了 AI 架构师真正关心的指标。
阅读 Jeff Harthorn 就此主题撰写的白皮书：提示词剖析。
本环节核心讨论内容：
- Token 放大机制：用户输入的简短提示词，在 AI 智能体逐层叠加领域规则、检索上下文、工具定义及会话历史后，会迅速膨胀为数万乃至数十万个 token。存储系统负责整合这些全面的提示内容。
- “首字延迟”分解：衡量响应速度的关键指标被拆解为：提示组装耗时、网络传输耗时、排队等待耗时，以及 GPU 密集型的预填充 (prefill) 和解码 (decode) 阶段耗时。
- 将计算转化为读取：通过缓存上下文中相对稳定的部分，存储系统可以将原本需要 GPU 反复计算的高昂 O(n²) 成本，转化为速度极快的 O(n) 读取操作。
- 两类工作负载，两种存储配置：RAG 场景以小型随机读取为主，对 P99/P99.9 尾延迟极为敏感，而 KV 缓存卸载场景则以大型块读取为主，更依赖高带宽的吞吐能力。
2. 借助 Solidigm 通过内存层级结构扩展智能
Kapil Karkra 再次登台，探讨一个颇具挑战性的问题：如果内存容量是 AI 智能的第三个维度，与模型规模和原始算力并列，会怎样？ 本次演讲引入了一套衡量框架，并以基准数据为支撑，展示了将内存扩展至 GPU 之外，如何同时提升推理性能与推理质量本身。
本环节核心讨论内容：
- “CRAFT”框架：Solidigm 从五个维度定义 AI 智能——理解力 (Comprehension)、记忆力 (Recall)、适应性 (Adaptability)、流畅度 (Fluency) 与韧性 (Tenacity)——并分别测量内存容量对每个维度的影响。
- 容量作为扩展轴：将内存从 HBM 扩展至系统 DRAM 和 NVMe SSD，可提升推理效率，并避免代价高昂的重复计算。
- 推理需要暂存空间：在 AIME 2024 数学测试（韧性维度）中，更大的输出 token 容量让模型能够“思考”更长时间，从而获得更高分数，这直接表明存储容量与答案质量之间存在关联。
- 显著且可衡量的性能提升：将 KV 缓存扩展至 NVMe 后，吞吐量提升高达 4 倍，token 间延迟改善达 21 倍；在“大海捞针”理解力测试中，读取速度甚至提升达 78 倍。
- 分层内存层级结构：通过自动在 HBM、DRAM 和 NVMe 之间进行缓存，可避免 GPU 停顿，并使企业能够在性能与成本之间取得平衡，从而支撑更大规模、多智能体、长上下文的工作负载。
3. Solidigm 提供 AI 优化的 SSD 和硬件解决方案
在压轴场次中，Scott Shadley 将讨论从架构层面拉回到物理驱动器层面——以及当下每个数据中心都不得不面对的现实约束：电力供应、可持续性指标和物理空间限制。借助一个生动的比喻——存储就像美味披萨的“面团”——Scott 指出，仅靠向现有设备中塞入更多字节，并不能构成真正的 AI 战略。
本环节核心讨论内容：
- 端到端存储层级：从 HBM 和 DRAM（G1、G2 层级），到本地 NVMe（G2.5、G3 层级）、机柜内 DPU 主导的 NVMe（G3.5 层级），再到网络附加 NVMe 与硬盘（G4 层级），构建出一幅完整的存储层级全貌。其中，NVMe 的采用在各个层级中都至关重要。
- 现实世界中的基础设施约束：电力供应、可持续发展要求以及物理空间限制，如今已成为 AI 基础设施建设中最为关键的挑战。
- 液冷创新：液冷式 E1.S 外形规格 SSD，可显著降低功耗并优化散热管理，其与 NVIDIA 等合作伙伴协同设计，以实现最佳集成效果。
- 不止于单一产品，而是完整的生态系统：产品组合涵盖从高性能缓存到大容量持久存储的各类方案，通过与客户的直接沟通按需匹配不同工作负载，而非采用一刀切的销售模式。
结论
三场 AI Field Day 8 演讲共同讲述了一个完整的故事：通往更好、更快、更经济的 AI 之路，正贯穿存储层级。从单个提示词的旅程，到通过内存扩展智能的新框架，再到让高密度 AI 部署成为可能的液冷硬件，Solidigm 充分证明，AI 基础设施中这位“无名英雄”值得在设计伊始就占有一席之地。
