基于线性支持向量机的深度学习

2015-2 摘要 最近，全连接神经网络和卷积神经网络在语音识别、图像分类、自然语言处理和生物信息学等广泛地任务中实现了最先进的性能。对于分类任务，这些深度学习模型大多采用softmax激活函数进行预测，最小化交叉熵损失。在本文中，我们展示了用线性支持向量机替换softmax层的一个小而一致的优势。学习基于边际损失最小化而不是交叉熵损失最小化。虽然在现有技术中已有多种神经网络和和支持向量机的组合，

>>阅读原文<<