本清单🧾为beta版本,如果各位开发者有不懂的概念或者专有名词,可随时提PR或issue进行补充
方向 | 概念 | 参考资料 |
---|---|---|
综合 | 深度学习框架 | - |
数据结构 | Tensor、算子、OP | - |
广播机制 | - | |
计算图 | 什么是计算图 | - |
计算图控制流 | - | |
计算图生成方式1:静态图 | - | |
计算图生成方式2:动态图 | - | |
静态图vs动态图 | - | |
计算图调度 | - | |
自动微分 | 数值微分、符号微分、自动微分 | - |
雅克比矩阵 | - | |
飞桨自动微分机制 | - | |
... | ... |
方向 | 概念 | 参考资料 |
---|---|---|
Git | git项目管理 | - |
CI流水线 | - | |
优化 | 图优化 | - |
编译优化(硬件相关 & 硬件无关) | - | |
混合精度训练 | - | |
Jit(just in time) | - | |
部署 | 模型压缩 | - |
模型推理(训练和推理的区别) | - | |
推理框架 | - | |
... | ... | |
分布式训练 | ... | - |
- 飞桨官网教程:
- 零基础入门深度学习——第八章
- 产业级深度学习
- 友商书籍 《机器学习系统:设计和实现》 (关于mindspore部分可忽略)
- B站up主:zomi (想看视频的可以选择)
- Micrograd——andrej karpathy 写的的一个小型深度框架。极简实现,但是涵盖了框架的精髓。 (号称学不会他就吃*)
- B站视频:详解神经网络和反向传播(基于micrograd)
- github链接:micrograd
- 《用python实现深度学习框架》(推荐)
- 实体书:京东链接
- 电子版:微信读书(暂时免费)