机器学习数学速查表 📚
线性代数基础 📐
- 向量与矩阵运算:标量、向量、矩阵的加减乘除,以及转置、逆矩阵等
- 特征值与特征向量:用于主成分分析(PCA)等降维技术
- 矩阵分解:如SVD、QR分解,常用于推荐系统
微积分要点 📈
- 导数与梯度:理解损失函数的最小化方向
- 链式法则:神经网络反向传播的核心
- 积分应用:概率密度函数的计算基础
概率与统计 📊
- 概率分布:高斯分布、伯努利分布等常见分布
- 期望与方差:评估模型预测的稳定性
- 贝叶斯定理:用于生成模型和概率推理
优化方法 🔍
- 梯度下降:随机梯度下降(SGD)、批量梯度下降(BGD)
- 牛顿法:二阶优化的收敛速度优势
- 凸优化:确保全局最优解的条件