6. 结论、局限与未来方向

贡献

本文提出 DeepSeek-V4.1-Flash，一个支持最长 100 万 token 上下文的多模态混合专家（MoE）模型。通过模型架构、缓存精度和部署策略的联合优化，DeepSeek-V4.1-Flash 推动了 KV 缓存压缩的极限。

KV 缓存压缩成果

其 Causal Encoder-Decoder（CED）架构使模型在预填充阶段每 token 仅激活 8B 参数，而解码阶段为 16B，从而提高输入密集型智能体工作负载的成本效率。在相同序列长度下，Compressed Sparse Attention 2（CSA2）的跨层 KV 缓存复用和 FP4 KV 缓存将全局 KV 缓存占用（始终位于 HBM）降低到每 token 890 字节，约为 DeepSeek-V4-Flash 的 1/4。SWA Bounded Replay 又将持久化 KV 缓存占用（始终位于 SSD 或主机内存）进一步降低至 DeepSeek-V4-Flash 的约 1/8。

性能对比

这些缩减缓解了 HBM 和 SSD 容量压力，同时模型总体性能显著优于 DeepSeek-V4-Flash。尽管参数占用显著小于 GLM-5.3、Kimi-K3 等同期大型开源模型，DeepSeek-V4.1 在关键 benchmark 上仍取得相当、并在部分任务上更高的性能。

当前局限

虽然相较 DeepSeek-V4-Flash，DeepSeek-V4.1-Flash 显著简化了多个架构组件，但新引入的架构变化也带来尚未完全刻画的鲁棒性边界。内部评测覆盖多种测试案例和边界条件，在这些已评测设置下未观察到系统性能力退化。然而，任何有限测试集都无法覆盖所有极端输入与部署条件。CSA2 中潜在的选择错误，以及 SWA Bounded Replay 中的近似状态重建，仍可能在未经测试的边界案例中造成能力下降。

评测的未来方向

未来将继续扩展 stress testing 与评测栈，尤其关注长上下文中的稀疏检索，以及缓存恢复边界处的 SWA 状态重建。同时会持续监测真实工作负载，系统刻画潜在 failure mode 与鲁棒性边界，并进一步提升模型在极端条件下的稳健性。

Benchmark 饱和与剩余差距

随着 AI 模型取得显著的性能能力，标准评测 benchmark 已日益趋于饱和。虽然 DeepSeek-V4.1-Flash 展现出的性能已非常接近 Fable-5 和 GPT-6 Astra 等顶级模型，并在日常应用中提供高度可比的用户体验，但在最具挑战性的任务上仍然存在性能差距。尽管 benchmark 分数之间的差距很小，这种接近并不意味着该模型在复杂、高难度推理和边缘案例上已经匹配领先闭源系统的前沿能力。

未来展望

因此，后续将持续更新评测协议，以严格测量最先进推理能力的边界。除了继续降低模型成本，进一步提升模型智能将依赖数据、模型容量和 RL 的协同扩展。以 DeepSeek-V4.1-Flash 为新起点，后续工作将继续探索模型能力极限，系统解决大规模数据合成和 RL scaling 的关键问题，并积极推进 model-harness 协同设计，使二者作为一个联合系统共同演化、联合优化。通过同时推进降本与能力扩展，目标是让高能力智能体更易获得、更易部署，并进一步降低各行业采用 AI 技术的门槛。