Skip to content

Latest commit

 

History

History
59 lines (44 loc) · 2.18 KB

深度学习概念清单.md

File metadata and controls

59 lines (44 loc) · 2.18 KB

本清单🧾为beta版本,如果各位开发者有不懂的概念或者专有名词,可随时提PR或issue进行补充

框架基础原理(必修)

方向 概念 参考资料
综合 深度学习框架 -
数据结构 Tensor、算子、OP -
广播机制 -
计算图 什么是计算图 -
计算图控制流 -
计算图生成方式1:静态图 -
计算图生成方式2:动态图 -
静态图vs动态图 -
计算图调度 -
自动微分 数值微分、符号微分、自动微分 -
雅克比矩阵 -
飞桨自动微分机制 -
... ...

模型组网(待定)

工程实践(待定)

方向 概念 参考资料
Git git项目管理 -
CI流水线 -
优化 图优化 -
编译优化(硬件相关 & 硬件无关) -
混合精度训练 -
Jit(just in time) -
部署 模型压缩 -
模型推理(训练和推理的区别) -
推理框架 -
... ...
分布式训练 ... -

参考资料:

  1. 飞桨官网教程:
  2. 友商书籍 《机器学习系统:设计和实现》 (关于mindspore部分可忽略)
  3. B站up主:zomi (想看视频的可以选择)
  4. Micrograd——andrej karpathy 写的的一个小型深度框架。极简实现,但是涵盖了框架的精髓。 (号称学不会他就吃*)
  5. 《用python实现深度学习框架》(推荐)