01-丛神经元说起，数学篇

线性代数部分知识点回顾 范数是一种距离的表示（曼哈顿距离），或者说向量的长度。 L0范数指这个向量中非0元素的个数。 可以通过L0范数减少非零元素的个数，从而减少参与决策的特征，减少参数。 L1范数指的是向量中所有元素的绝对值之和。它也被称为稀疏规则算子。 为什么要实现权值稀疏呢？ 在设计模型的过程中，我们有时会使用到大量的特征，有一部分特征对于最后结果的贡献非常小，甚至近乎于0，这些用处不大的特

>>阅读原文<<