DeepSeek 推理优化

本节目录 Contents

DeepSeek 推理优化#

DeepSeek V3/R1 模型自问世以来,在各个行业都引起了巨大的关注。高性价比的推理能力是 DeepSeek V3/R1 能够在众多大模型中脱颖而出的主要原因之一。本节将会结合算法原理和代码详细阐述 DeepSeek V3/R1 在推理部署过程中做的各种创新和优化。

课程大纲#

大纲

小节

链接

DeepSeek 推理优化

01 DeepSeek V3/R1 推理系统概览

PPT, 视频

DeepSeek 推理优化

02 MTP 算法原理

PPT, 视频

DeepSeek 推理优化

03 FlashMLA 算法原理

PPT, 视频

DeepSeek 推理优化

04 DeepEP 算法原理

PPT, 视频

DeepSeek 推理优化

05 DeepGEMM 算法原理

PPT, 视频

备注#

系列视频托管B 站油管,PPT 开源在github,欢迎引用!

非常希望您参与到这个开源课程中,B 站给 ZOMI 留言哦!

欢迎发现 bug 或者勘误直接提交代码 PR 到社区哦!