Skip to content

Commit

Permalink
feat: add some reference
Browse files Browse the repository at this point in the history
  • Loading branch information
HarleysZhang committed Oct 25, 2022
1 parent d45b6b3 commit c02aeae
Showing 1 changed file with 13 additions and 8 deletions.
21 changes: 13 additions & 8 deletions 5-deep_learning/0-深度学习面试题.md
Original file line number Diff line number Diff line change
Expand Up @@ -35,7 +35,8 @@
- [16.2,如何判断深度学习模型是否过拟合](#162如何判断深度学习模型是否过拟合)
- [16.3,欠拟合怎么解决](#163欠拟合怎么解决)
- [16.4,如何判断模型是否欠拟合](#164如何判断模型是否欠拟合)
- [十七,L1 和 L2 区别](#十七l1-和-l2-区别)
- [十七,L1 和 L2 范数区别](#十七l1-和-l2-范数区别)
- [参考资料学习](#参考资料学习)
- [十八,TensorFlow计算图概念](#十八tensorflow计算图概念)
- [十九,BN(批归一化)的作用](#十九bn批归一化的作用)
- [二十,什么是梯度消失和爆炸](#二十什么是梯度消失和爆炸)
Expand Down Expand Up @@ -520,17 +521,21 @@ Layer Name = conv5, Output size = 14, Stride = 1, RF size = 139
+ 数据集配置的问题;
+ 训练方法出错(初学者经常碰到,原因千奇百怪)。

## 十七,L1 和 L2 区别
## 十七,L1 和 L2 范数区别

L1 范数(`L1 norm`)是指向量中各个元素绝对值之和,也有个美称叫“稀疏规则算子”(Lasso regularization)。 比如 向量 A=[1,-1,3], 那么 A 的 L1 范数为 |1|+|-1|+|3|。简单总结一下就是:
$L1$ 范数(`L1 norm`)是指向量中各个元素绝对值之和,也有个美称叫“稀疏规则算子”(Lasso regularization)。 比如 向量 $A=[1,-1,3]$, 那么 A 的 $L1$ 范数为 $|1|+|-1|+|3|$。简单总结一下就是:

+ L1 范数: 为向量 x 各个元素绝对值之和。
+ L2 范数: 为向量 x 各个元素平方和的 1/2 次方,L2 范数又称 Euclidean 范数或 Frobenius 范数
+ Lp 范数: 为向量 x 各个元素绝对值 $p$ 次方和的 $1/p$ 次方.
+ $L1$ 范数: 为向量 $x$ 各个元素绝对值之和。
+ $L2$ 范数: 为向量 $x$ 各个元素平方和的 $\frac{1}{2}$ 次方,$L2$ 范数又称 Euclidean 范数或 Frobenius 范数
+ $L_{p}$ 范数: 为向量 $x$ 各个元素绝对值 $p$ 次方和的 $1/p$ 次方。$L_{p}$ 范数定义为: $||x||_{p} = (\sum_{i=1}^{n} |x_i|^{p})^\frac{1}{p}$

在支持向量机学习过程中,L1 范数实际是一种对于成本函数求解最优的过程,因此,L1 范数正则化通过向成本函数中添加 L1 范数,使得学习得到的结果满足稀疏化,从而方便人类提取特征。
在支持向量机学习过程中,$L1$ 范数实际是一种对于成本函数求解最优的过程,因此,$L1$ 范数正则化通过向成本函数中添加 $L1$ 范数,使得学习得到的结果满足稀疏化,从而方便人类提取特征。

`L1` 范数可以使权值参数稀疏,方便特征提取。 L2 范数可以防止过拟合,提升模型的泛化能力。
$L1$ 范数可以使权值参数稀疏,方便特征提取。 $L2$ 范数可以防止过拟合,提升模型的泛化能力。

### 参考资料学习
1. [浅谈L0,L1,L2范数及其应用](http://t.hengwei.me/post/%E6%B5%85%E8%B0%88l0l1l2%E8%8C%83%E6%95%B0%E5%8F%8A%E5%85%B6%E5%BA%94%E7%94%A8.html)
2. [L1和L2 详解(范数、损失函数、正则化)](https://zhuanlan.zhihu.com/p/137073968)

## 十八,TensorFlow计算图概念

Expand Down

0 comments on commit c02aeae

Please sign in to comment.