中科曙光发布全新升级的AI推理原生存储FN Neo

智能应用 2026-09-21 14:38

中科曙光日前发布全新迭代升级的AI推理原生存储FN Neo。该产品通过升级“池化共享”能力,打破了“集中式存储不适合AI推理”的行业固有认知,为大模型推理规模化落地提供全新存力路径。

FN Neo可将分散在不同计算节点的推理缓存统一管理、共享复用,应对长文本、多用户同时访问带来的压力,让已有计算成果得到更充分利用。实测数据显示,FN Neo可实现模型首词出现时间(TTFT)缩减73%,较本地NVMe更快;延迟表现、吞吐量和多请求并发数相比传统本地NVMe均有大幅提升。

简讯快报

更多