机器学习相关数学基础

视频学习笔记

（1）几率论与贝叶斯先验

视频地址：https://www.bilibili.com/video/BV1Tb411H7uC?p=2

几率论基础

 

 

统计量

 

 

（2）几率论与贝叶斯先验

视频地址：https://www.bilibili.com/video/BV1Tb411H7uC?p=3

 矩阵

 

 

 特征值和特征向量

 

 矩阵求导

 

 用本身的话总结“梯度”，“梯度降低”和“贝叶斯定理”

• 梯度：在微积分里面，对多元函数的参数求∂偏导数，把求得的各个参数的偏导数以向量的形式写出来，就是梯度。好比函数f(x,y), 分别对x,y求偏导数，求得的梯度向量就是(∂f/∂x, ∂f/∂y)^T,简称grad f(x,y)或者▽f(x,y)。
• 梯度降低：在机器学习算法中，在最小化损失函数时，能够经过梯度降低思想来求得最小化的损失函数和对应的参数值。梯度降低的几个概念：步长、特征、假设函数、损失函数。
• 贝叶斯定理：贝叶斯定理是关于随机事件A和B的条件几率（或边缘几率）的一则定理。其中P(A|B)是在B发生的状况下A发生的可能性。