随机森林(Random Forest)是一种常用的集成学习方法,它通过构建多个决策树并综合它们的预测结果来提高模型的预测能力。以下是一个简单的随机森林算法教程。
基本原理
随机森林通过以下步骤构建模型:
- 随机选择样本:从原始数据集中随机选择一部分样本。
- 随机选择特征:从所有特征中随机选择一部分特征。
- 构建决策树:使用选定的样本和特征构建决策树。
- 重复步骤 1-3:重复上述步骤,构建多个决策树。
代码示例
以下是一个使用 Python 和 scikit-learn 库实现随机森林的简单示例:
from sklearn.ensemble import RandomForestClassifier
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
# 加载数据集
data = load_iris()
X = data.data
y = data.target
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)
# 创建随机森林模型
model = RandomForestClassifier(n_estimators=100)
# 训练模型
model.fit(X_train, y_train)
# 预测测试集
predictions = model.predict(X_test)
# 评估模型
score = model.score(X_test, y_test)
print(f"模型准确率:{score:.2f}")
扩展阅读
更多关于随机森林的内容,您可以阅读《随机森林算法原理与实现》。
图片
随机森林算法流程图