2. BN和LN相关面试题

1. 一句话介绍一下BN BN是神经网络为了防止梯度消失或梯度爆炸采取的一种策略,可以加快模型收敛,一般放在激活项前。 2. BN的过程可以描述一下吗 输入一个数据集合B,对该数据集合B求其均值和方差,然后对B进行归一化操作,同时BN还有两个可学习的参数r和β,通过这两个参数对归一化后的结果进行一定程度的还原。 公式如下: 3. (BN中)归一化的目的是什么 将数据统一到一个区间内,减少数据的发散
相关文章
相关标签/搜索