随机森林 - 版本历史

2024年1月19日 (五) 11:29 Zeroclanzhang

2024-01-19T11:29:32Z

←上一版本		2024年1月19日 (五) 19:29的版本
第7行：		第7行：
	\|productionstate={{图标文件\|Win}} / {{图标文件\|W10}} Win10及以上可用		\|productionstate={{图标文件\|Win}} / {{图标文件\|W10}} Win10及以上可用
	\|productionstatedesc=在[[Update:DecisionLinnc 1.0.0.8\|V1.0]]部署		\|productionstatedesc=在[[Update:DecisionLinnc 1.0.0.8\|V1.0]]部署
	\|nodeenglishname=~~[[Has english name::~~Random Forest]]		\|nodeenglishname=Random Forest
	\|abbreviation=~~[[Has abbreviation::~~RF]]		\|abbreviation=RF
	\|funcmaincategory=机器学习		\|funcmaincategory=机器学习
	\|funcsubcategory=[[DataML Lv1 Cat::分类训练器]]		\|funcsubcategory=[[DataML Lv1 Cat::分类训练器]]

2024年1月18日 (四) 09:44 Zeroclanzhang

2024-01-18T09:44:35Z

←上一版本		2024年1月18日 (四) 17:44的版本
第5行：		第5行：
	\|simpleicon=Random Forest_Pure.svg		\|simpleicon=Random Forest_Pure.svg
	\|developer=Dev.Team-DPS		\|developer=Dev.Team-DPS
	\|productionstate=~~PC可用~~		\|productionstate={{图标文件\|Win}} / {{图标文件\|W10}} Win10及以上可用
	\|productionstatedesc=在[[DecisionLinnc \| V1.0]]部署		\|productionstatedesc=在[[Update:DecisionLinnc 1.0.0.8\|V1.0]]部署
	\|nodeenglishname=[[Has english name::Random Forest]]		\|nodeenglishname=[[Has english name::Random Forest]]
	\|abbreviation=[[Has abbreviation::~~RF_Model~~]]		\|abbreviation=[[Has abbreviation::RF]]
	\|funcmaincategory=机器学习		\|funcmaincategory=机器学习
	\|funcsubcategory=[[DataML Lv1 Cat::分类训练器]]		\|funcsubcategory=[[DataML Lv1 Cat::分类训练器]]
第20行：		第20行：
	\|nodeavailableplotlist=nodenoplotoutput		\|nodeavailableplotlist=nodenoplotoutput
	\|nodeavailabletablelist=Table_For_Downstream		\|nodeavailabletablelist=Table_For_Downstream
	\|nodeconfiguration=VariableList;~~DropManu~~;Text		\|nodeconfiguration=VariableList;DropMenu;Text
	\|nodeinputports=WorkFlow-Control ➤;Transfer-Table ■		\|nodeinputports=WorkFlow-Control ➤;Transfer-Table ■
	\|nodeoutputports=WorkFlow-Control ➤;Transfer-Model ▶;Transfer-Table ■		\|nodeoutputports=WorkFlow-Control ➤;Transfer-Model ▶;Transfer-Table ■
第27行：		第27行：
	\|nextnode=[[朴素贝叶斯]]		\|nextnode=[[朴素贝叶斯]]
	}}		}}

	==算法概述==		==算法概述==
	随机森林是一种用于分类、回归和其他任务的集成学习方法。它通过对训练数据集进行有放回的随机抽样（bootstrap采样），并在每个[[决策树]]上进行随机特征选择，来构建多个[[决策树]]模型。最终的预测结果是基于所有决策树的投票或平均结果。对于分类任务，随机森林的输出是大多数树选择的类别。对于回归任务，返回各个树的均值或平均预测。随机森林可以纠正[[决策树]]过度拟合训练集的缺点。		随机森林是一种用于分类、回归和其他任务的集成学习方法。它通过对训练数据集进行有放回的随机抽样（bootstrap采样），并在每个[[决策树]]上进行随机特征选择，来构建多个[[决策树]]模型。最终的预测结果是基于所有决策树的投票或平均结果。对于分类任务，随机森林的输出是大多数树选择的类别。对于回归任务，返回各个树的均值或平均预测。随机森林可以纠正[[决策树]]过度拟合训练集的缺点。

Wurong：/* 算法概述 */

2024-01-17T06:46:57Z

算法概述

←上一版本		2024年1月17日 (三) 14:46的版本
第29行：		第29行：

	==算法概述==		==算法概述==
	~~随机森林是一种用于分类、回归和其他任务的集成学习方法，通过在训练时构建大量~~[[决策树]]~~来进行操作。对于分类任务，随机森林的输出是大多数树选择的类别。对于回归任务，返回各个树的均值或平均预测。随机森林可以纠正~~[[决策树]]过度拟合训练集的缺点。		随机森林是一种用于分类、回归和其他任务的集成学习方法。它通过对训练数据集进行有放回的随机抽样（bootstrap采样），并在每个[[决策树]]上进行随机特征选择，来构建多个[[决策树]]模型。最终的预测结果是基于所有决策树的投票或平均结果。对于分类任务，随机森林的输出是大多数树选择的类别。对于回归任务，返回各个树的均值或平均预测。随机森林可以纠正[[决策树]]过度拟合训练集的缺点。

	===历史===		===历史===

Wurong：/* 历史 */

2024-01-17T06:45:37Z

历史

←上一版本		2024年1月17日 (三) 14:45的版本
第32行：		第32行：

	===历史===		===历史===
	~~随机决策森林的一般方法最初由Ho在1995年提出~~<ref>{{cite journal \|last1=Ho \|first1=Tin Kam \|title=Random decision forests \|journal=Proceedings of the 3rd International Conference on Document Analysis and Recognition \|volume=1 \|pages=278–282 \|year=1995 \|publisher=IEEE}}</ref>。 Ho证明了使用倾斜超平面进行树的分割的森林可以在增长过程中提高准确性，同时不会遭受过度训练的问题，只要森林在随机选择的特征维度上进行限制。随后的一项研究<ref>{{cite journal \|last1=Breiman \|first1=Leo \|title=Random forests \|journal=Machine Learning \|volume=45 \|issue=1 \|pages=5–32 \|year=2001}}</ref>得出了类似的结论，即只要其他分割方法在随机选择的特征维度上被强制不敏感，它们的行为也是类似的。需要注意的是，这种更复杂分类器（更大的森林）几乎单调地变得更准确的观察结果，与常见的观念相反，即分类器的复杂性在达到一定准确性水平后会受到过拟合的影响。随机决策森林对过度训练的抵抗力的解释可以在Kleinberg的随机判别理论中找到<ref>{{Cite web \|url=https://en.wikipedia.org/wiki/Random_forest \|title=Random forest \|website=Wikipedia \|access-date=2024-01-17}}</ref>。		随机森林的一般方法最初由Ho在1995年提出<ref>{{cite journal \|last1=Ho \|first1=Tin Kam \|title=Random decision forests \|journal=Proceedings of the 3rd International Conference on Document Analysis and Recognition \|volume=1 \|pages=278–282 \|year=1995 \|publisher=IEEE}}</ref>。 Ho证明了使用倾斜超平面进行树的分割的森林可以在增长过程中提高准确性，同时不会遭受过度训练的问题，只要森林在随机选择的特征维度上进行限制。随后的一项研究<ref>{{cite journal \|last1=Breiman \|first1=Leo \|title=Random forests \|journal=Machine Learning \|volume=45 \|issue=1 \|pages=5–32 \|year=2001}}</ref>得出了类似的结论，即只要其他分割方法在随机选择的特征维度上被强制不敏感，它们的行为也是类似的。需要注意的是，这种更复杂分类器（更大的森林）几乎单调地变得更准确的观察结果，与常见的观念相反，即分类器的复杂性在达到一定准确性水平后会受到过拟合的影响。随机决策森林对过度训练的抵抗力的解释可以在Kleinberg的随机判别理论中找到<ref>{{Cite web \|url=https://en.wikipedia.org/wiki/Random_forest \|title=Random forest \|website=Wikipedia \|access-date=2024-01-17}}</ref>。

	==示例代码-随机森林分类节点==		==示例代码-随机森林分类节点==

Wurong：/* 节点使用指南 */

2024-01-17T06:42:09Z

节点使用指南

←上一版本		2024年1月17日 (三) 14:42的版本
第50行：		第50行：

	=='''节点使用指南'''==		=='''节点使用指南'''==
	* ~~最适用的场景：决策树可用于解决分类问题，其中目标是将数据分为不同的类别或预测数据的类别。~~		* 最适用的场景：随机森林可用于解决分类问题，其中目标是将数据分为不同的类别或预测数据的类别。
	* 处理的数据类型：结局变量为二分类，特征变量大多数为连续型的变量。		* 处理的数据类型：结局变量为二分类，特征变量大多数为连续型的变量。
	===变量配置===		===变量配置===

Wurong：/* 示例代码-随机森林分类节点 */

2024-01-17T06:41:41Z

示例代码-随机森林分类节点

←上一版本		2024年1月17日 (三) 14:41的版本
第44行：		第44行：
	clf = RandomForestClassifier(max_depth=2, random_state=0)		clf = RandomForestClassifier(max_depth=2, random_state=0)
	clf.fit(X, y)		clf.fit(X, y)
	~~RandomForestClassifier(...)~~
	print(clf.predict([[0, 0, 0, 0]]))		print(clf.predict([[0, 0, 0, 0]]))
	</syntaxhighlight>		</syntaxhighlight>

Wurong：/* 示例代码-决策树分类节点 */

2024-01-17T06:40:57Z

示例代码-决策树分类节点

←上一版本		2024年1月17日 (三) 14:40的版本
第34行：		第34行：
	随机决策森林的一般方法最初由Ho在1995年提出<ref>{{cite journal \|last1=Ho \|first1=Tin Kam \|title=Random decision forests \|journal=Proceedings of the 3rd International Conference on Document Analysis and Recognition \|volume=1 \|pages=278–282 \|year=1995 \|publisher=IEEE}}</ref>。 Ho证明了使用倾斜超平面进行树的分割的森林可以在增长过程中提高准确性，同时不会遭受过度训练的问题，只要森林在随机选择的特征维度上进行限制。随后的一项研究<ref>{{cite journal \|last1=Breiman \|first1=Leo \|title=Random forests \|journal=Machine Learning \|volume=45 \|issue=1 \|pages=5–32 \|year=2001}}</ref>得出了类似的结论，即只要其他分割方法在随机选择的特征维度上被强制不敏感，它们的行为也是类似的。需要注意的是，这种更复杂分类器（更大的森林）几乎单调地变得更准确的观察结果，与常见的观念相反，即分类器的复杂性在达到一定准确性水平后会受到过拟合的影响。随机决策森林对过度训练的抵抗力的解释可以在Kleinberg的随机判别理论中找到<ref>{{Cite web \|url=https://en.wikipedia.org/wiki/Random_forest \|title=Random forest \|website=Wikipedia \|access-date=2024-01-17}}</ref>。		随机决策森林的一般方法最初由Ho在1995年提出<ref>{{cite journal \|last1=Ho \|first1=Tin Kam \|title=Random decision forests \|journal=Proceedings of the 3rd International Conference on Document Analysis and Recognition \|volume=1 \|pages=278–282 \|year=1995 \|publisher=IEEE}}</ref>。 Ho证明了使用倾斜超平面进行树的分割的森林可以在增长过程中提高准确性，同时不会遭受过度训练的问题，只要森林在随机选择的特征维度上进行限制。随后的一项研究<ref>{{cite journal \|last1=Breiman \|first1=Leo \|title=Random forests \|journal=Machine Learning \|volume=45 \|issue=1 \|pages=5–32 \|year=2001}}</ref>得出了类似的结论，即只要其他分割方法在随机选择的特征维度上被强制不敏感，它们的行为也是类似的。需要注意的是，这种更复杂分类器（更大的森林）几乎单调地变得更准确的观察结果，与常见的观念相反，即分类器的复杂性在达到一定准确性水平后会受到过拟合的影响。随机决策森林对过度训练的抵抗力的解释可以在Kleinberg的随机判别理论中找到<ref>{{Cite web \|url=https://en.wikipedia.org/wiki/Random_forest \|title=Random forest \|website=Wikipedia \|access-date=2024-01-17}}</ref>。

	==示例代码-~~决策树分类节点~~==		==示例代码-随机森林分类节点==
	该节点使用Python编写，调用scikit-learn包<ref>{{cite journal \|author=Kramer, Oliver \|title=Scikit-learn \|journal=Machine learning for evolution strategies \|pages=45--53 \|year=2016 \|publisher=Springer }}</ref>。以下为示例代码：		该节点使用Python编写，调用scikit-learn包<ref>{{cite journal \|author=Kramer, Oliver \|title=Scikit-learn \|journal=Machine learning for evolution strategies \|pages=45--53 \|year=2016 \|publisher=Springer }}</ref>。以下为示例代码：
	<syntaxhighlight lang="Python">		<syntaxhighlight lang="Python">
	from sklearn import ~~ensemble~~		from sklearn.ensemble import RandomForestClassifier
	X = ~~[[0~~, 0], ~~[1, 1]]~~		from sklearn.datasets import make_classification
	Y = [0, 1]		X, y = make_classification(n_samples=1000, n_features=4,
	clf = ~~tree.DecisionTreeClassifier~~()		n_informative=2, n_redundant=0,
	~~clf =~~ clf.fit(X, Y)		random_state=0, shuffle=False)
			clf = RandomForestClassifier(max_depth=2, random_state=0)
			clf.fit(X, y)
			RandomForestClassifier(...)
			print(clf.predict([[0, 0, 0, 0]]))
	</syntaxhighlight>		</syntaxhighlight>

Wurong：/* 历史 */

2024-01-17T06:38:13Z

历史

←上一版本		2024年1月17日 (三) 14:38的版本
第32行：		第32行：

	===历史===		===历史===
	随机决策森林的一般方法最初由Ho在1995年提出<ref>{{cite journal \|last1=Ho \|first1=Tin Kam \|title=Random decision forests \|journal=Proceedings of the 3rd International Conference on Document Analysis and Recognition \|volume=1 \|pages=278–282 \|year=1995 \|publisher=IEEE}}</ref>。 Ho证明了使用倾斜超平面进行树的分割的森林可以在增长过程中提高准确性，同时不会遭受过度训练的问题，只要森林在随机选择的特征维度上进行限制。随后的一项研究<ref>{{cite journal \|last1=Breiman \|first1=Leo \|title=Random forests \|journal=Machine Learning \|volume=45 \|issue=1 \|pages=5–32 \|year=2001}}</ref>得出了类似的结论，即只要其他分割方法在随机选择的特征维度上被强制不敏感，它们的行为也是类似的。需要注意的是，这种更复杂分类器（更大的森林）几乎单调地变得更准确的观察结果，与常见的观念相反，即分类器的复杂性在达到一定准确性水平后会受到过拟合的影响。随机决策森林对过度训练的抵抗力的解释可以在Kleinberg的随机判别理论中找到。		随机决策森林的一般方法最初由Ho在1995年提出<ref>{{cite journal \|last1=Ho \|first1=Tin Kam \|title=Random decision forests \|journal=Proceedings of the 3rd International Conference on Document Analysis and Recognition \|volume=1 \|pages=278–282 \|year=1995 \|publisher=IEEE}}</ref>。 Ho证明了使用倾斜超平面进行树的分割的森林可以在增长过程中提高准确性，同时不会遭受过度训练的问题，只要森林在随机选择的特征维度上进行限制。随后的一项研究<ref>{{cite journal \|last1=Breiman \|first1=Leo \|title=Random forests \|journal=Machine Learning \|volume=45 \|issue=1 \|pages=5–32 \|year=2001}}</ref>得出了类似的结论，即只要其他分割方法在随机选择的特征维度上被强制不敏感，它们的行为也是类似的。需要注意的是，这种更复杂分类器（更大的森林）几乎单调地变得更准确的观察结果，与常见的观念相反，即分类器的复杂性在达到一定准确性水平后会受到过拟合的影响。随机决策森林对过度训练的抵抗力的解释可以在Kleinberg的随机判别理论中找到<ref>{{Cite web \|url=https://en.wikipedia.org/wiki/Random_forest \|title=Random forest \|website=Wikipedia \|access-date=2024-01-17}}</ref>。

	==示例代码-决策树分类节点==		==示例代码-决策树分类节点==

2024年1月17日 (三) 06:36 Wurong

2024-01-17T06:36:26Z

←上一版本		2024年1月17日 (三) 14:36的版本
第32行：		第32行：

	===历史===		===历史===
	随机决策森林的一般方法最初由Ho在1995年提出<ref>{{cite journal \|last1=Ho \|first1=Tin Kam \|title=Random decision forests \|journal=Proceedings of the 3rd International Conference on Document Analysis and Recognition \|volume=1 \|pages=278–282 \|year=1995 \|publisher=IEEE}}</ref>。 Ho证明了使用倾斜超平面进行树的分割的森林可以在增长过程中提高准确性，同时不会遭受过度训练的问题，只要森林在随机选择的特征维度上进行限制。随后的一项研究~~[2]~~得出了类似的结论，即只要其他分割方法在随机选择的特征维度上被强制不敏感，它们的行为也是类似的。需要注意的是，这种更复杂分类器（更大的森林）几乎单调地变得更准确的观察结果，与常见的观念相反，即分类器的复杂性在达到一定准确性水平后会受到过拟合的影响。随机决策森林对过度训练的抵抗力的解释可以在Kleinberg的随机判别理论中找到。		随机决策森林的一般方法最初由Ho在1995年提出<ref>{{cite journal \|last1=Ho \|first1=Tin Kam \|title=Random decision forests \|journal=Proceedings of the 3rd International Conference on Document Analysis and Recognition \|volume=1 \|pages=278–282 \|year=1995 \|publisher=IEEE}}</ref>。 Ho证明了使用倾斜超平面进行树的分割的森林可以在增长过程中提高准确性，同时不会遭受过度训练的问题，只要森林在随机选择的特征维度上进行限制。随后的一项研究<ref>{{cite journal \|last1=Breiman \|first1=Leo \|title=Random forests \|journal=Machine Learning \|volume=45 \|issue=1 \|pages=5–32 \|year=2001}}</ref>得出了类似的结论，即只要其他分割方法在随机选择的特征维度上被强制不敏感，它们的行为也是类似的。需要注意的是，这种更复杂分类器（更大的森林）几乎单调地变得更准确的观察结果，与常见的观念相反，即分类器的复杂性在达到一定准确性水平后会受到过拟合的影响。随机决策森林对过度训练的抵抗力的解释可以在Kleinberg的随机判别理论中找到。

	==示例代码-决策树分类节点==		==示例代码-决策树分类节点==
第73行：		第73行：

	== 参考文献 ==		== 参考文献 ==

	~~{{cite journal \|last1=Breiman \|first1=Leo \|title=Random forests \|journal=Machine Learning \|volume=45 \|issue=1 \|pages=5–32 \|year=2001}}~~
	{{reflist}}		{{reflist}}

2024年1月17日 (三) 06:35 Wurong

2024-01-17T06:35:50Z

←上一版本		2024年1月17日 (三) 14:35的版本
第32行：		第32行：

	===历史===		===历史===
	随机决策森林的一般方法最初由Ho在1995年提出[1]。 Ho证明了使用倾斜超平面进行树的分割的森林可以在增长过程中提高准确性，同时不会遭受过度训练的问题，只要森林在随机选择的特征维度上进行限制。随后的一项研究[2]得出了类似的结论，即只要其他分割方法在随机选择的特征维度上被强制不敏感，它们的行为也是类似的。需要注意的是，这种更复杂分类器（更大的森林）几乎单调地变得更准确的观察结果，与常见的观念相反，即分类器的复杂性在达到一定准确性水平后会受到过拟合的影响。随机决策森林对过度训练的抵抗力的解释可以在Kleinberg的随机判别理论中找到。		随机决策森林的一般方法最初由Ho在1995年提出<ref>{{cite journal \|last1=Ho \|first1=Tin Kam \|title=Random decision forests \|journal=Proceedings of the 3rd International Conference on Document Analysis and Recognition \|volume=1 \|pages=278–282 \|year=1995 \|publisher=IEEE}}</ref>。 Ho证明了使用倾斜超平面进行树的分割的森林可以在增长过程中提高准确性，同时不会遭受过度训练的问题，只要森林在随机选择的特征维度上进行限制。随后的一项研究[2]得出了类似的结论，即只要其他分割方法在随机选择的特征维度上被强制不敏感，它们的行为也是类似的。需要注意的是，这种更复杂分类器（更大的森林）几乎单调地变得更准确的观察结果，与常见的观念相反，即分类器的复杂性在达到一定准确性水平后会受到过拟合的影响。随机决策森林对过度训练的抵抗力的解释可以在Kleinberg的随机判别理论中找到。

	==示例代码-决策树分类节点==		==示例代码-决策树分类节点==
第73行：		第73行：

	== 参考文献 ==		== 参考文献 ==
	{{cite journal \|last1=Ho \|first1=Tin Kam \|title=Random decision forests \|journal=Proceedings of the 3rd International Conference on Document Analysis and Recognition \|volume=1 \|pages=278–282 \|year=1995 \|publisher=IEEE}}
	{{cite journal \|last1=Breiman \|first1=Leo \|title=Random forests \|journal=Machine Learning \|volume=45 \|issue=1 \|pages=5–32 \|year=2001}}		{{cite journal \|last1=Breiman \|first1=Leo \|title=Random forests \|journal=Machine Learning \|volume=45 \|issue=1 \|pages=5–32 \|year=2001}}
	{{reflist}}		{{reflist}}

随机森林 - 版本历史

2024年1月19日 (五) 11:29 Zeroclanzhang

2024年1月18日 (四) 09:44 Zeroclanzhang

Wurong：​/* 算法概述 */

Wurong：​/* 历史 */

Wurong：​/* 节点使用指南 */

Wurong：​/* 示例代码-随机森林分类节点 */

Wurong：​/* 示例代码-决策树分类节点 */

Wurong：​/* 历史 */

2024年1月17日 (三) 06:36 Wurong

2024年1月17日 (三) 06:35 Wurong

Wurong：/* 算法概述 */

Wurong：/* 历史 */

Wurong：/* 节点使用指南 */

Wurong：/* 示例代码-随机森林分类节点 */

Wurong：/* 示例代码-决策树分类节点 */

Wurong：/* 历史 */