支持向量机

来自决策链云智库
Zeroclanzhang（讨论 | 贡献）2024年1月18日 (四) 16:56的版本
Support Vector Machine.png
节点状态
Windows和可用
在 V1.0部署
支持向量机Support Vector Machine.svg
节点开发者决策链算法研发部 (Dev.Team-DPS)
节点英文名支持向量机
功能主类别机器学习
英文缩写支持向量机
功能亚类别分类训练器
节点类型数据挖掘
开发语言Python
节点简介

支持向量机（Support Vector Machine，简称SVM）是一种广泛应用于分类和回归问题的监督学习算法。它的目标是找到一个最优的超平面或者决策边界，可以将不同类别的样本分开，并且具有较好的泛化能力。

端口数量与逻辑控制(PC)
Input-入口2个
Output-出口3个
Loop-支持循环否
If/Switch-支持逻辑判断否
输入输出
可生成图片类型（推荐）
可生成数据表类型（推荐）
相关节点
上一节点决策树
下一节点梯度提升树
WikimediaUI-Globe.svg相关网站




算法概述

在机器学习中，支持向量机（Support Vector Machine，SVM，也称为支持向量网络[1]）主要用于分析数据进行分类和回归分析。Vladimir Vapnik及其同事在at&T Bell实验室开发。SVM是研究最多的模型之一，基于Vapnik和Chervonenkis提出的VC理论（Vapnik–Chervonenkis theory）。

除了执行线性分类外，SVM还可以使用所谓的内核技巧有效地执行非线性分类，将其输入隐式映射到高维特征空间中。SVM也可以用于回归任务。Hava Siegelmann和Vladimir Vapnik创建的支持向量聚类[2]算法应用支持向量机算法中开发的支持向量的统计信息对未标记的数据进行分类。这些数据集需要无监督的学习方法，这些方法试图找到数据的自然聚类，然后根据这些聚类映射新数据。

示例代码-支持向量机分类节点

该节点使用Python编写，调用scikit-learn包[3]。以下为示例代码： 

import numpy as np
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler

X = np.array([[-1, -1], [-2, -1], [1, 1], [2, 1]])
y = np.array([1, 1, 2, 2])
from sklearn.svm import SVC
clf = make_pipeline(StandardScaler(), SVC(gamma='auto'))
clf.fit(X, y)

拟合后，模型可以用于预测样本的类别，可以在通用预测模块实现内外部测试集的预测。

节点使用指南

  • 最适用的场景：决策树可用于解决分类问题，其中目标是将数据分为不同的类别或预测数据的类别。
  • 处理的数据类型：结局变量为二分类，特征变量大多数为连续型的变量。

变量配置

  • 选择特征变量：作为特征进行学习的变量（X），多选。
  • 选择目标变量：作为结局的二分类变量（y），单选。

参数配置

  • 设置随机数：控制模型的随机性。
  • 正则化参数：正则化参数是机器学习算法中的一个重要参数，用于控制模型的复杂度并防止过拟合（Overfitting）。选择适当的正则化参数对于获得良好的模型性能非常重要。默认为1.0。
  • 核函数选择：核函数（Kernel Function）是一种用于衡量数据之间相似性的函数。核函数通常用于支持向量机（Support Vector Machines）和核方法（Kernel Methods）等算法中，用于将低维数据映射到高维特征空间，从而更好地进行分类或回归。
    • linear：线性核（常用），
    • poly：多项式，
    • RBF：高斯核（常用），
    • sigmoid，
    • precomputed。

注意事项

  • 不支持带空值运算，用多重插补或插补空值进行插补，
  • 节点不出图，
  • 导入该节点的数据端口为训练数据集，导入前注意转换。

参考文献

  1. ↑ Cortes, Corinna and Vapnik, Vladimir (1995). "Support-vector networks". Machine Learning. Springer. 20: 273–297.{{cite journal}}: CS1 maint: multiple names: authors list (link)
  2. ↑ Ben-Hur, Asa and Horn, David and Siegelmann, Hava and Vapnik, Vladimir N. (2001). "Support vector clustering". Journal of Machine Learning Research. 2: 125–137.{{cite journal}}: CS1 maint: multiple names: authors list (link)
  3. ↑ Kramer, Oliver (2016). "Scikit-learn". Machine learning for evolution strategies. Springer: 45--53.

查找其他类别的节点，请参考以下列表

取自“https://wiki.statsape.com/index.php?title=支持向量机&oldid=5135”