Skip to content

Commit 6c533af

Browse files
committed
更新资源
1 parent 20e2085 commit 6c533af

File tree

3 files changed

+3
-1
lines changed

3 files changed

+3
-1
lines changed

BasicAlgorithm/激活函数.md

+1-1
Original file line numberDiff line numberDiff line change
@@ -29,7 +29,7 @@ sigmoid 函数 能够把输入的连续实值变换为0和1之间的输出,特
2929

3030
#### 2.1.3 sigmoid 函数 有什么缺点?
3131

32-
1. 在深度神经网络中梯度反向传递时导致梯度爆炸和梯度消失,其中梯度爆炸发生的概率非常小,而梯度消失发生的概率比较大
32+
1. 如果我们初始化神经网络的权值为[0,1]之间的随机数,由反向传播算法的数学推导可以知道,梯度从后向前传播时,每传递一层梯度值都会下降为原来原来的0.25倍,如果神经网络层比较多是时,那么梯度会穿过多层之后变得接近于0,也就出现梯度消失问题,当权值初始化为 [1,+]期间内的值时,则会出现梯度爆炸问题
3333

3434
![](img/微信截图_20201228220429.png)
3535

README.md

+2
Original file line numberDiff line numberDiff line change
@@ -2,6 +2,8 @@
22

33
> 作者:杨夕、芙蕖、李玲、陈海顺、twilight、LeoLRH、杜晓东、艾春辉、张永泰、金金金
44
5+
![](other_study/resource/pic/微信截图_20210301212242.png)
6+
57
![](img/微信截图_20210212153059.png)
68

79
## 介绍

img/微信截图_20210301212242.png

29.7 KB
Loading

0 commit comments

Comments
 (0)