DeepSeek-V4.1-Flash 技术报告

9 篇文章 2 个主题模块 进入文章后,左侧会展开本课程章节

01 报告正文

  1. 01 DeepSeek-V4.1-Flash:推动 KV 缓存压缩极限 552B 主干参数、100 万 token 上下文的多模态 MoE 模型,把每 token 全局 KV 缓存压到 890 字节。 →
  2. 02 1. 引言 长时程智能体负载下的成本挑战与 DeepSeek-V4.1-Flash 的总体思路。 →
  3. 03 2. 架构 CED 因果编码器-解码器、CSA2 跨层 KV 复用、分层稀疏索引器、Engram 与 FP4 KV 缓存。 →
  4. 04 3. 通用基础设施 多模态训练基础设施、注意力共享训练与持久化 KV 缓存管理。 →
  5. 05 4. 预训练 45T token 多模态语料上的数据构建、训练设置与评测。 →
  6. 06 5. 后训练 SFT → RL → OPD 标准范式,大规模自动化数据合成与环境构建流水线。 →
  7. 07 6. 结论、局限与未来方向 KV 缓存压缩极限的推进成果、当前局限与后续扩展方向。 →

02 附录

  1. 01 参考文献 参考文献按原文语言保留。 →
  2. 02 附录 作者名单、评测细节与推理强度控制中的指数 Token 惩罚。 →