可生成图片类型（推荐）
可生成数据表类型（推荐）
（→算法概述） |
（→算法概述） |
||
| 第29行： | 第29行： | ||
==算法概述== | ==算法概述== | ||
AdaBoost是Adaptive Boosting的缩写，是Yoav Freund和Robert Schapire于1995年制定的一种统计分类元算法<ref>{{cite book |author1=Freund, Yoav |author2=Schapire, Robert E. |title=A Decision-Theoretic Generalization of On-Line Learning and an Application to Boosting | AdaBoost是Adaptive Boosting的缩写，是Yoav Freund和Robert Schapire于1995年制定的一种统计分类元算法<ref>{{cite book |author1=Freund, Yoav |author2=Schapire, Robert E. |title=A Decision-Theoretic Generalization of On-Line Learning and an Application to Boosting |publisher=Springer Berlin Heidelberg |location=Berlin, Heidelberg |year=1995 |pages=23–37 |doi=10.1007/3-540-59119-2_166 |isbn=978-3-540-59119-1}}</ref>，他们的工作获得了2003年哥德尔奖。它可以与许多其他类型的学习算法结合使用，以提高性能。其他学习算法（“基础估计器”）的输出被组合成表示增强分类器的最终输出的加权和。通常，AdaBoost是用于二进制分类的，尽管它可以推广到多个类上的有界区间。AdaBoost首先在原始数据集上拟合分类模型，然后在同一数据集上匹配分类模型的附加副本，但其中调整了错误分类实例的权重，使后续分类器更多地关注被错误分类的情况。<ref>{{cite book |author1=Freund, Yoav |author2=Schapire, Robert E. |title=A Decision-Theoretic Generalization of On-Line Learning and an Application to Boosting |publisher=Springer Berlin Heidelberg |location=Berlin, Heidelberg |year=1995 |pages=23–37 |doi=10.1007/3-540-59119-2_166 |isbn=978-3-540-59119-1}}</ref> | ||
==示例代码-决策树分类节点== | ==示例代码-决策树分类节点== | ||
2024年1月17日 (三) 17:39的版本
 | |
| 节点状态 | PC可用
在 V1.0部署
|
|---|---|
AdaBoost  | |
| 节点开发者 | 决策链算法研发部 (Dev.Team-DPS) |
| 节点英文名 | AdaBoost |
| 功能主类别 | 机器学习 |
| 英文缩写 | AdaBoost |
| 功能亚类别 | 分类训练器 |
| 节点类型 | 数据挖掘 |
| 开发语言 | Python |
| 节点简介 | |
AdaBoost（Adaptive Boosting）是一种集成学习算法，通过迭代地训练一系列的弱学习器（通常是决策树），并将它们组合成一个强大的预测模型。 与其他集成学习方法不同，AdaBoost通过调整样本权重来适应先前弱学习器的错误，从而提高整体模型的准确性。 | |
| 端口数量与逻辑控制(PC) | |
| Input-入口 | 2个 |
| Output-出口 | 3个 |
| Loop-支持循环 | 否 |
| If/Switch-支持逻辑判断 | 否 |
| 输入输出 | |
| 相关节点 | |
| 上一节点 | 梯度提升树 |
| 下一节点 | XGBoost |
算法概述
AdaBoost是Adaptive Boosting的缩写，是Yoav Freund和Robert Schapire于1995年制定的一种统计分类元算法[1]，他们的工作获得了2003年哥德尔奖。它可以与许多其他类型的学习算法结合使用，以提高性能。其他学习算法（“基础估计器”）的输出被组合成表示增强分类器的最终输出的加权和。通常，AdaBoost是用于二进制分类的，尽管它可以推广到多个类上的有界区间。AdaBoost首先在原始数据集上拟合分类模型，然后在同一数据集上匹配分类模型的附加副本，但其中调整了错误分类实例的权重，使后续分类器更多地关注被错误分类的情况。[2]
示例代码-决策树分类节点
该节点使用Python编写，调用scikit-learn包[3]。以下为示例代码：
from sklearn import tree
X = [[0, 0], [1, 1]]
Y = [0, 1]
clf = tree.DecisionTreeClassifier()
clf = clf.fit(X, Y)
拟合后，模型可以用于预测样本的类别，可以在通用预测模块实现内外部测试集的预测。
节点使用指南
- 最适用的场景：决策树可用于解决分类问题，其中目标是将数据分为不同的类别或预测数据的类别。
- 处理的数据类型：结局变量为二分类，特征变量大多数为连续型的变量。
变量配置
- 选择特征变量：作为特征进行学习的变量（X），多选。
- 选择目标变量：作为结局的二分类变量（y），单选。
参数配置
- 设置随机数：控制模型的随机性。
- 基础估计器选择：构建增强整体的基本估计器。默认基本估计器用决策树分类估计器，初始化最大深度为1。
- 决策树，
- 支持向量机。
- 估计器数量：默认为100.
- Boosting算法选择：SAMME.R 算法通常比 SAMME 收敛得更快，从而通过更少的提升迭代实现更低的测试误差。
- SAMME：离散增强算法。
- SAMME.R：真实增强算法。
- 学习率：在每次迭代时应用于每个分类器的权重。较高的学习率会增加每个分类器的贡献。
注意事项
参考文献
- ↑ Freund, Yoav; Schapire, Robert E. (1995). A Decision-Theoretic Generalization of On-Line Learning and an Application to Boosting. Berlin, Heidelberg: Springer Berlin Heidelberg. pp. 23–37. doi:10.1007/3-540-59119-2_166. ISBN 978-3-540-59119-1.
- ↑ Freund, Yoav; Schapire, Robert E. (1995). A Decision-Theoretic Generalization of On-Line Learning and an Application to Boosting. Berlin, Heidelberg: Springer Berlin Heidelberg. pp. 23–37. doi:10.1007/3-540-59119-2_166. ISBN 978-3-540-59119-1.
- ↑ Kramer, Oliver (2016). "Scikit-learn". Machine learning for evolution strategies. Springer: 45--53.
查找其他类别的节点，请参考以下列表
列表
数据处理节点
数据输入
变量处理
行列处理
矩阵处理
表格处理
列表
数据分析节点
描述性统计
统计检验
方差分析
相关分析
回归分析
Lasso回归 二项式Lasso回归 泊松Lasso回归 生存状态Lasso回归 高斯PLS回归Ridge回归 二项式Ridge回归 泊松Ridge回归 生存状态Ridge回归 高斯分位回归多分类逻辑回归多项式回归广义估计方程 伽玛广义估计方程 泊松广义估计方程 负二项广义估计方程 逻辑广义估计方程 高斯广义相加模型 伽玛广义相加模型 泊松广义相加模型 负二项广义相加模型 逻辑广义相加模型 高斯广义相加混合模型 伽玛广义相加混合模型 泊松广义相加混合模型 负二项广义相加混合模型 逻辑广义相加混合模型 高斯广义线性回归 伽玛广义线性回归 泊松广义线性回归 负二项广义线性回归 逆概率加权联合标准差稳健线性回归线性回归逐步回归逻辑回归
时序分析
潜变量分析
生存分析
多元分析
综合分析
列表
机器学习节点
列表
AI和神经网络
环境检测
