DeepSeek-V4.1-Flash 技术报告
01 报告正文
- 01 DeepSeek-V4.1-Flash:推动 KV 缓存压缩极限 552B 主干参数、100 万 token 上下文的多模态 MoE 模型,把每 token 全局 KV 缓存压到 890 字节。 →
- 02 1. 引言 长时程智能体负载下的成本挑战与 DeepSeek-V4.1-Flash 的总体思路。 →
- 03 2. 架构 CED 因果编码器-解码器、CSA2 跨层 KV 复用、分层稀疏索引器、Engram 与 FP4 KV 缓存。 →
- 04 3. 通用基础设施 多模态训练基础设施、注意力共享训练与持久化 KV 缓存管理。 →
- 05 4. 预训练 45T token 多模态语料上的数据构建、训练设置与评测。 →
- 06 5. 后训练 SFT → RL → OPD 标准范式,大规模自动化数据合成与环境构建流水线。 →
- 07 6. 结论、局限与未来方向 KV 缓存压缩极限的推进成果、当前局限与后续扩展方向。 →