Ocient 采用 Solidigm 大容量硬盘缩减 AI 数据中心的占地面积并降低成本
了解 Ocient 如何利用 Solidigm 大容量 SSD,在毫秒级时间内存储和访问更多数据,从而以更低的成本和能耗实现更卓越的性能。
AI 已推动存储从基础设施层面上升至架构层面。存储虽是不易察觉的变量,如今却影响着每个生成词元的经济成本。从训练阶段的固定成本,到推理阶段的可变成本,大容量、高性能 NVMe SSD 已成为影响整个成本模型的关键变量。
随着模型进行更多推理、智能体工作量成倍增长,使用 AI 的企业发现,生成词元总量的增速已超过单词元成本的下降速度。这促使企业重新评估投资回报率 (ROI) 的衡量指标。重新计算会消耗昂贵的加速器资源,而重新加载则是开销更低的上下文复用方式。
阅读白皮书,了解 Solidigm 大容量、高性能 NVMe SSD 如何改善 AI 词元的使用方式,让更多上下文数据随时可用,使 AI 智能体能够记住更多信息、更快响应,并降低每项任务的成本。