Deep learning:四十五(maxout简单理解)

    maxout出如今ICML2013上,做者Goodfellow将maxout和dropout结合后,号称在MNIST, CIFAR-10, CIFAR-100, SVHN这4个数据上都取得了start-of-art的识别率。网络   从论文中能够看出,maxout其实一种激发函数形式。一般状况下,若是激发函数采用sigmoid函数的话,在前向传播过程当中,隐含层节点的输出表达式为:dom
相关文章
相关标签/搜索