正则化是机器学习中常用的一种技术，旨在通过添加惩罚项到损失函数中，来防止模型过拟合。以下是一些常见的正则化方法：

  • L1 正则化（Lasso）：引入 L1 惩罚项，可以促使模型中的某些权重变为 0，从而实现特征选择。
  • L2 正则化（Ridge）：引入 L2 惩罚项，可以平滑模型权重，减少模型复杂度。
  • 弹性网（Elastic Net）：结合了 L1 和 L2 正则化的优点，适用于特征数量较多的场景。

Lasso 正则化图解

L1 正则化通过将权重系数的绝对值加到损失函数中，实现特征选择。

更多关于正则化的内容，可以参考本站的 机器学习基础 部分。