可生成图片类型（推荐）
可生成数据表类型（推荐）
（→历史） |
（→算法概述） |
||
| 第29行： | 第29行： | ||
==算法概述== | ==算法概述== | ||
随机森林是一种用于分类、回归和其他任务的集成学习方法。它通过对训练数据集进行有放回的随机抽样（bootstrap采样），并在每个[[决策树]]上进行随机特征选择，来构建多个[[决策树]]模型。最终的预测结果是基于所有决策树的投票或平均结果。对于分类任务，随机森林的输出是大多数树选择的类别。对于回归任务，返回各个树的均值或平均预测。随机森林可以纠正[[决策树]]过度拟合训练集的缺点。 | |||
===历史=== | ===历史=== | ||
2024年1月17日 (三) 14:46的版本
 | |
| 节点状态 | PC可用
在 V1.0部署
|
|---|---|
随机森林  | |
| 节点开发者 | 决策链算法研发部 (Dev.Team-DPS) |
| 节点英文名 | 随机森林 |
| 功能主类别 | 机器学习 |
| 英文缩写 | RF_Model |
| 功能亚类别 | 分类训练器 |
| 节点类型 | 数据挖掘 |
| 开发语言 | Python |
| 节点简介 | |
随机森林（Random Forest）是一种基于集成学习的机器学习算法，由多个决策树组成。它通过对训练数据集进行有放回的随机抽样（bootstrap采样），并在每个决策树上进行随机特征选择，来构建多个决策树模型。最终的预测结果是基于所有决策树的投票或平均结果。 | |
| 端口数量与逻辑控制(PC) | |
| Input-入口 | 2个 |
| Output-出口 | 3个 |
| Loop-支持循环 | 否 |
| If/Switch-支持逻辑判断 | 否 |
| 输入输出 | |
| 相关节点 | |
| 上一节点 | LightGBM |
| 下一节点 | 朴素贝叶斯 |
算法概述
随机森林是一种用于分类、回归和其他任务的集成学习方法。它通过对训练数据集进行有放回的随机抽样（bootstrap采样），并在每个决策树上进行随机特征选择，来构建多个决策树模型。最终的预测结果是基于所有决策树的投票或平均结果。对于分类任务，随机森林的输出是大多数树选择的类别。对于回归任务，返回各个树的均值或平均预测。随机森林可以纠正决策树过度拟合训练集的缺点。
历史
随机森林的一般方法最初由Ho在1995年提出[1]。 Ho证明了使用倾斜超平面进行树的分割的森林可以在增长过程中提高准确性，同时不会遭受过度训练的问题，只要森林在随机选择的特征维度上进行限制。随后的一项研究[2]得出了类似的结论，即只要其他分割方法在随机选择的特征维度上被强制不敏感，它们的行为也是类似的。需要注意的是，这种更复杂分类器（更大的森林）几乎单调地变得更准确的观察结果，与常见的观念相反，即分类器的复杂性在达到一定准确性水平后会受到过拟合的影响。随机决策森林对过度训练的抵抗力的解释可以在Kleinberg的随机判别理论中找到[3]。
示例代码-随机森林分类节点
该节点使用Python编写，调用scikit-learn包[4]。以下为示例代码：
from sklearn.ensemble import RandomForestClassifier
from sklearn.datasets import make_classification
X, y = make_classification(n_samples=1000, n_features=4,
n_informative=2, n_redundant=0,
random_state=0, shuffle=False)
clf = RandomForestClassifier(max_depth=2, random_state=0)
clf.fit(X, y)
print(clf.predict([[0, 0, 0, 0]]))
拟合后，模型可以用于预测样本的类别，可以在通用预测模块实现内外部测试集的预测。
节点使用指南
- 最适用的场景：随机森林可用于解决分类问题，其中目标是将数据分为不同的类别或预测数据的类别。
- 处理的数据类型：结局变量为二分类，特征变量大多数为连续型的变量。
变量配置
- 选择特征变量：作为特征进行学习的变量（X），多选。
- 选择目标变量：作为结局的二分类变量（y），单选。
参数配置
- 设置随机数：控制模型的随机性。
- 拆分策略：用于在每个节点选择分裂的策略，包含最佳分割和随机分割。
- 损失函数算法选择：衡量分割质量的函数。支持的标准为
- 'gini'：基尼纯度（Gini impurity），
- 'log_loss'，
- 'entropy'：信息熵。
- 最大深度：树的最大深度。如果没有，则扩展节点，直到所有叶子都是纯的或直到所有叶子包含少于"最小拆分样本数"的样本。
- 最小拆分样本数：分裂内部节点所需的最小样本数。
- 叶节点最小样本数：叶节点所需的最小样本数。该参数仅当任何深度的分割点在左右分支中至少留下训练样本时，才会被考虑。这可能具有使模型平滑的效果，尤其是在回归中。
- 最大特征数：寻找最佳分割时要考虑的特征数量。
- 最大叶节点数：以最佳优先的方式种植一棵树。最佳节点定义为杂质的相对减少。如果没有，则叶节点数量不受限制。
- 最小不纯度衰减阈值：如果分裂导致杂质减少大于或等于该值，则节点将被分裂。
注意事项
参考文献
- ↑ Ho, Tin Kam (1995). "Random decision forests". Proceedings of the 3rd International Conference on Document Analysis and Recognition. IEEE. 1: 278–282.
- ↑ Breiman, Leo (2001). "Random forests". Machine Learning. 45 (1): 5–32.
- ↑ "Random forest". Wikipedia. Retrieved 2024-01-17.
- ↑ Kramer, Oliver (2016). "Scikit-learn". Machine learning for evolution strategies. Springer: 45--53.
查找其他类别的节点，请参考以下列表
列表
数据处理节点
数据输入
变量处理
行列处理
矩阵处理
表格处理
列表
数据分析节点
描述性统计
统计检验
方差分析
相关分析
回归分析
Lasso回归 二项式Lasso回归 泊松Lasso回归 生存状态Lasso回归 高斯PLS回归Ridge回归 二项式Ridge回归 泊松Ridge回归 生存状态Ridge回归 高斯分位回归多分类逻辑回归多项式回归广义估计方程 伽玛广义估计方程 泊松广义估计方程 负二项广义估计方程 逻辑广义估计方程 高斯广义相加模型 伽玛广义相加模型 泊松广义相加模型 负二项广义相加模型 逻辑广义相加模型 高斯广义相加混合模型 伽玛广义相加混合模型 泊松广义相加混合模型 负二项广义相加混合模型 逻辑广义相加混合模型 高斯广义线性回归 伽玛广义线性回归 泊松广义线性回归 负二项广义线性回归 逆概率加权联合标准差稳健线性回归线性回归逐步回归逻辑回归
时序分析
潜变量分析
生存分析
多元分析
综合分析
列表
机器学习节点
列表
AI和神经网络
环境检测
