【Deep-ML系列】Pegasos Kernel SVM Implementation(手写支持向量机)

引言

支持向量机(SVM)是机器学习领域中一种非常强大的分类算法,广泛应用于各种分类任务。今天,我们将深入探讨SVM中的Pegasos算法及其与核函数的结合。通过代码示例和详细解释,我们将理解Pegasos算法如何逐步调整模型参数,从而优化分类器的性能。

Pegasos算法概述

Pegasos算法(Primal Estimated sub-GrAdient SOlver for SVM)是一种用于训练SVM的在线学习算法。与标准的SVM优化方法不同,Pegasos通过随机梯度下降(SGD)逐步更新模型参数,使得算法在处理大规模数据时更加高效。

在每次迭代中,Pegasos只对一个或一小部分样本进行参数更新,这与传统的批量梯度下降不同。这个特点使得Pegasos在处理大规模数据集时有明显的速度优势。

核函数的作用

核函数的引入是SVM的一个重要特性,使得它能够处理线性不可分的数据。核函数通过将原始数据映射到一个更高维度的空间,在这个空间中,数据可能变得线性可分。

我们讨论了两种常用的核函数:

  • 线性核函数:直接计算两个样本的点积,适用于线性可分的数据。
  • RBF(径向基函数)核:计算两个样本的高斯距离,适用于非线性可分的数据。
代码解析
python 复制代码
import numpy as np


def linear_kernel(x, y):
    return np.dot(x, y)


def rbf_kernel(x, y, sigma=1.0):
    return np.exp(-np.linalg.norm(x - y) ** 2 / (2 * (sigma ** 2)))


def pegasos_kernel_svm(data, labels, kernel='linear', lambda_val=0.01, iterations=100, sigma=1.0):
    n_samples = len(data)
    alphas = np.zeros(n_samples)
    b = 0

    for t in range(1, iterations + 1):
        for i in range(n_samples):
            eta = 1.0 / (lambda_val * t)
            if kernel == 'linear':
                kernel_func = linear_kernel
            elif kernel == 'rbf':
                kernel_func = lambda x, y: rbf_kernel(x, y, sigma)

            decision = sum(alphas[j] * labels[j] * kernel_func(data[j], data[i]) for j in range(n_samples)) + b
            if labels[i] * decision < 1:
                alphas[i] += eta * (labels[i] - lambda_val * alphas[i])
                b += eta * labels[i]

    return np.round(alphas, 4).tolist(), np.round(b, 4)


if __name__ == '__main__':
    data = np.array([[1, 2], [2, 3], [3, 1], [4, 1]])
    labels = np.array([1, 1, -1, -1])
    kernel = 'rbf'
    lambda_val = 0.01
    iterations = 100
    print(pegasos_kernel_svm(data, labels, kernel, lambda_val, iterations))
相关推荐
罗西的思考2 小时前
【轻量化复刻大模型 / KIMI K3】Multi-Token Prediction(MTP / EAGLE-3)(2)
人工智能·算法·机器学习
罗西的思考2 小时前
【轻量化复刻大模型 / KIMI K3】Multi-Token Prediction(MTP / EAGLE-3)(1)
人工智能·算法·机器学习
武子康3 小时前
H3-World 接入 Game Agent:谁来判断门真的打开了?
人工智能·算法·机器学习
XLYcmy5 小时前
基于大语言模型的智能漏洞检测与修复系统 作品报告评审分析报告 下
机器学习·llm·prompt·api·token·漏洞修复·漏洞检测
武子康8 小时前
H3-World 扩展跳跃与开门:新动作怎样进入训练数据?
大数据·人工智能·算法
卡尔曼的BD SLAMer8 小时前
北斗导航 |GNSS ION论文集汇总1997到2022(链接在文末)
算法·北斗导航
时间的拾荒人8 小时前
Redis Cluster 集群详解:分片算法、搭建、故障处理与扩容实战
数据库·redis·算法·集群
在所不辞兄10 小时前
【人工智能驱动的电催化研究-07】CSV文件、路径与可追溯记录
人工智能·深度学习·神经网络·机器学习·有限元·电化学·电催化
老师我太想进步了202610 小时前
【数据结构-8】栈的实现
c语言·数据结构·算法
kyle~11 小时前
因子图优化(Factor Graph Optimization)
c++·算法·机器人·传感器