【NLP】Task5：神经网络基础

文章目录 一、前馈神经网络 二、简单的神经网络（tensorflow） 三、激活函数 １、概述 ２、sigmoid 激活函数 （１）定义 （２）特点 （３）缺点 ３、tanh函数 4、ReLU函数 ５、Leaky ReLU ６、Maxout ７、ELU ８、激活函数的选择 四、正则化 １、参数范数惩罚 （１）相关定义 （２）L0正则化 （３）L1正则化 （４）L2正则化 ２、数据扩增（data a

>>阅读原文<<