核心发布：开源代码库 FlashMLA

DeepSeek 在开源周第一天重磅发布了 FlashMLA，这是一个专为英伟达 Hopper 架构 GPU（如 H800/H100）优化的高效 MLA（Multi-Linear Attention）解码内核，旨在显著提升大模型推理性能并降低成本。

一、 技术亮点与性能突破

1. 硬件级优化  

   - 在 H800 上实测达到 3000 GB/s 内存带宽（接近理论极限的 2 倍）和 580 TFLOPS 计算性能（接近 H800 理论算力的 75%），大幅突破传统 MHA（Multi-Head Attention）的效率瓶颈。

   - 支持 BF16 精度 和 分页 KV 缓存（块大小 64），优化长序列（如 128k token 上下文）处理的显存占用，避免重复计算。

2. MLA 与 MHA 的革新对比  

   - 传统 MHA：多头独立计算导致显存带宽利用率低（H100 仅 35%），计算冗余高。

   - 创新 MLA：  

     - 通过低秩投影（如 d=1024 → r=256）实现参数共享，减少 70% 计算量和 93.75% 参数量。

     - 采用动态融合技术，使 H800 利用率提升至 75%，推理速度提升 2 倍。

3. 生产级优化  

   - 分块 KV 缓存：将长序列切分为 64 块并行处理，提升显存命中率。

   - 异步流水线：计算与数据传输重叠，减少 GPU 空闲时间 80%。

   - 混合精度调度：BF16 存储 + FP32 累加，兼顾精度与速度。

二、实际应用与成本革命

- 推理效率提升：  

  - 以 32k 上下文、175B 模型为例，延迟从 350ms 降至 120ms，单位成本（每百万 token）从 0.18 美元降至 0.06 美元。

  - 显存需求压缩至 1/4（如 100GB → 25GB），推动 AI 推理进入“千元级硬件跑百亿模型”时代。

- 部署兼容性：  

  支持 CUDA 12.3+、PyTorch 2.0+，提供开箱即用的 API 接口，开发者可快速集成至现有项目。

三、社区反响与行业意义

- 开发者热评：  

  - GitHub 上线 45 分钟即斩获 400+ Star，3 小时突破 2.7k，创 AI 工程领域开源速度纪录。

  - 网友称其为“工程优化的教科书级案例”，并调侃“这才是真正的 OpenAI”。

- 战略价值：  

  - 通过开源突破英伟达硬件限制，展示“算法优化榨干 GPU 潜力”的技术路线，推动国产 AI 基础设施竞争力。

  - 透明化 AGI 探索进展，吸引全球开发者共建生态。

（完整代码库地址：[GitHub - DeepSeek-ai/FlashMLA](https://github.com/deepseek-ai/FlashMLA  )）

开源周后续预告

DeepSeek 计划连续 5 天开源，后续可能涉及 语音模型优化、AGI 核心组件 等方向，最终日或公布 AGI 相关“彩蛋”。

如需更详细技术文档或参与社区讨论，可访问官方 GitHub 或参考开发者实测报告。