决策树是一种直观且强大的机器学习模型，广泛应用于分类与回归任务。它通过树状结构对数据进行分割，帮助我们做出决策。以下是关键知识点：
1. 核心概念
- 节点：代表特征或属性（例如：年龄、收入）
- 分支：代表对特征的判断条件（例如：≥30 / <30）
- 叶节点：代表最终决策结果（例如：是否购买）
2. 构建流程
- 选择最优特征：使用信息增益（ID3）或增益率（C4_5）等指标
- 递归分割数据：直到满足停止条件（如叶子节点纯度达标）
- 剪枝优化：避免过拟合（例如：预剪枝或后剪枝）
3. 应用场景
- 分类任务：如垃圾邮件检测 ✅
- 回归任务：如房价预测 📈
- 可视化决策：如业务策略分析 📊
4. 优缺点
| 优点 | 缺点 |
|---|---|
| 易于理解和解释 | 容易过拟合 |
| 不需要复杂预处理 | 对连续值处理较弱 |