支持向量机

1.简介

支持向量机(Support Vector Machine,简称 SVM)是机器学习领域中一种非常强大且优雅的分类算法。

想象桌面上散落着两种颜色的球,SVM 的任务是画一条直线(在更高维空间里被称为超平面),将这两类球分开。

但 SVM 不仅仅是随手画条线,它的目标是找到一条最优边界 ,使得这条边界到两类数据点之间的距离(即间隔 Margin)最大化。这条边界就像一条"最宽的街道",两边的球离街道越远,分类就越稳健。

A. 支持向量 (Support Vectors)

并不是所有的数据点都对划分界限有贡献。SVM 只关注那些离边界最近的点,这些点被称为"支持向量"。如果删掉其他点,模型不会改变;但如果移动这些点,边界就会随之变动。

B. 超平面 (Hyperplane)

  • • 在二维空间是一条线。

  • • 在三位空间是一个面。

  • • 在 维空间中,它是 维的超平面。

C. 核函数 (Kernel Trick) ------ 维度打击

当数据在当前维度无法用直线分开时(例如红球围成一圈,蓝球在中间),SVM 会通过核函数将数据投影到更高维的空间,从而实现"降维打击"式的线性分割。

2.代码实现

复制代码
def run_svm_analysis(X_train, X_test, y_train, y_test, kernel='rbf', C=1.0, gamma=0.7):
    """
    接收数据并进行 SVM 训练与可视化
    """
    # 初始化并训练模型
    clf = svm.SVC(kernel=kernel, C=C, gamma=gamma)
    clf.fit(X_train, y_train)

    # 简单评估
    y_pred = clf.predict(X_test)
    print(f"训练完成!使用 {kernel} 核函数,测试集准确率: {accuracy_score(y_test, y_pred):.4f}")

    # --- 绘图逻辑 ---
    plt.figure(figsize=(10, 7))
    
    # 确定绘图边界
    X_combined = np.vstack((X_train, X_test))
    x_min, x_max = X_combined[:, 0].min() - 0.5, X_combined[:, 0].max() + 0.5
    y_min, y_max = X_combined[:, 1].min() - 0.5, X_combined[:, 1].max() + 0.5
    
    xx, yy = np.meshgrid(np.arange(x_min, x_max, 0.02),
                         np.arange(y_min, y_max, 0.02))

    # 绘制决策区域
    Z = clf.predict(np.c_[xx.ravel(), yy.ravel()])
    Z = Z.reshape(xx.shape)
    plt.contourf(xx, yy, Z, cmap=plt.cm.coolwarm, alpha=0.3)

    # 绘制训练集点
    plt.scatter(X_train[:, 0], X_train[:, 1], c=y_train, cmap=plt.cm.coolwarm, edgecolors='k', label='Train Data')
    # 绘制测试集点 (用不同标记)
    plt.scatter(X_test[:, 0], X_test[:, 1], c=y_test, cmap=plt.cm.coolwarm, marker='x', alpha=0.6, label='Test Data')
    
    # 突出显示支持向量
    plt.scatter(clf.support_vectors_[:, 0], clf.support_vectors_[:, 1], s=100,
                facecolors='none', edgecolors='gold', linewidth=1.5, label='Support Vectors')

    plt.title(f"SVM Analysis (Kernel={kernel}, C={C})", fontsize=14)
    plt.legend()
    plt.show()

    return clf

3.结果展示

相关推荐
大龄程序员狗哥3 小时前
第25篇:Q-Learning算法解析——强化学习中的经典“价值”学习(原理解析)
人工智能·学习·算法
陶陶然Yay3 小时前
神经网络常见层Numpy封装参考(5):其他层
人工智能·神经网络·numpy
极客老王说Agent3 小时前
2026实战指南:如何用智能体实现药品不良反应报告的自动录入?
人工智能·ai·chatgpt
imbackneverdie3 小时前
本科毕业论文怎么写?需要用到什么工具?
人工智能·考研·aigc·ai写作·学术·毕业论文·ai工具
lulu12165440783 小时前
Claude Code项目大了响应慢怎么办?Subagents、Agent Teams、Git Worktree、工作流编排四种方案深度解析
java·人工智能·python·ai编程
大橙子打游戏3 小时前
talkcozy像聊微信一样多项目同时开发
人工智能·vibecoding
deephub3 小时前
LangChain 还是 LangGraph?一个是编排一个是工具包
人工智能·langchain·大语言模型·langgraph
OidEncoder4 小时前
编码器分辨率与机械精度的关系
人工智能·算法·机器人·自动化
Championship.23.244 小时前
Harness工程深度解析:从理论到实践的完整指南
人工智能·harness
扬帆破浪5 小时前
开源免费的WPS AI 软件 察元AI文档助手:链路 002:executeAssistantFromRibbon 与任务进度窗
人工智能·开源·wps