LSSVM（最小二乘支持向量机）状态分类与预测

一、用 LSSVM 做状态分类与预测？

特性	优势
求解为线性方程组	训练极快
小样本友好	适合工业数据
核函数灵活	非线性建模
回归 + 分类一体	一模型多用

特别适合：

• 设备健康状态分类
• 剩余寿命预测（RUL）
• 故障早期预警

---

二、LSSVM 数学本质

1、 分类 LSSVM

优化目标：
min⁡w,b,e12wTw+γ12∑ei2 \min_{w,b,e} \quad \frac{1}{2}w^Tw + \gamma \frac{1}{2}\sum e_i^2 w,b,emin21wTw+γ21∑ei2

约束：
yi(wTϕ(xi)+b)=1−ei y_i(w^T\phi(x_i)+b)=1-e_i yi(wTϕ(xi)+b)=1−ei

最终转化为解线性方程组（无需凸优化）

---

2、 回归 LSSVM（预测）

y(x)=wTϕ(x)+b y(x) = w^T\phi(x) + b y(x)=wTϕ(x)+b

目标：
min⁡w,b,e12wTw+γ12∑ei2 \min_{w,b,e} \quad \frac{1}{2}w^Tw + \gamma \frac{1}{2}\sum e_i^2 w,b,emin21wTw+γ21∑ei2

约束：
wTϕ(xi)+b=yi−ei w^T\phi(x_i)+b = y_i - e_i wTϕ(xi)+b=yi−ei

---

三、Matlab 实现

安装 LS‑SVMlab

1. 下载：
   http://www.esat.kuleuven.be/sista/lssvmlab/
2. 解压
3. 在 Matlab 中：

addpath(genpath('LSSVMlab'))

---

四、LSSVM 状态分类（故障诊断）

1、 数据准备

% X: [n_samples × n_features]
% y: [n_samples × 1]  (-1 / 1 / 2 / 3 ...)
load bearing_data.mat

X = zscore(X);  % 必须标准化

---

2、 训练 LSSVM 分类器

% 核函数与参数
type = 'classification';
kernel = 'RBF_kernel';
gam = 10;      % 正则化参数
sig2 = 0.5;    % 核宽

% 训练
model = initlssvm(X, y, type, gam, sig2, kernel);
model = trainlssvm(model);

---

3、 预测与评估

y_pred = simlssvm(model, X_test);

acc = mean(y_pred == y_test);
confusionchart(y_test, y_pred);

fprintf('分类准确率 = %.2f%%\n', acc*100);

工业故障诊断准确率常达 96%+

---

五、LSSVM 状态预测（回归 / RUL）

1、 预测模型（时间序列）

% 输入：历史状态
% 输出：未来状态 / 剩余寿命

type = 'function estimation';
kernel = 'RBF_kernel';

gam = 100;
sig2 = 1;

model = initlssvm(X_train, y_train, type, gam, sig2, kernel);
model = trainlssvm(model);

---

2、 预测结果

y_pred = simlssvm(model, X_test);

rmse = sqrt(mean((y_test - y_pred).^2));
mae  = mean(abs(y_test - y_pred));

fprintf('RMSE = %.4f\n', rmse);

---

六、参数调优

网格搜索

gamList = [1 10 50 100];
sig2List = [0.1 0.5 1 2];

bestAcc = 0;

for g = gamList
    for s = sig2List
        model = initlssvm(X, y, 'classification', g, s, 'RBF_kernel');
        model = trainlssvm(model);
        y_pred = simlssvm(model, X_val);
        acc = mean(y_pred == y_val);
        if acc > bestAcc
            bestAcc = acc;
            bestParam = [g s];
        end
    end
end

---

七、多分类策略（状态 3 类以上）

LSSVM 原生支持多分类：

y = [1; 2; 3; 1; 2; 3];  % 三类状态
model = initlssvm(X, y, 'classification', gam, sig2, 'RBF_kernel');
model = trainlssvm(model);

内部自动 One-vs-One

参考代码 lssvm用于状态分类和预测 www.youwenfan.com/contentcsu/63502.html

八、与标准 SVM 对比

指标	SVM	LSSVM
求解方式	二次规划	线性方程组
速度	慢	快 10--100 倍
精度	略高	略低
小样本	一般	优秀
工程部署	一般	极佳

工业现场首选 LSSVM

---

九、典型工程应用场景

场景	输入特征	输出
电机故障诊断	振动 + 电流	健康 / 故障
轴承退化	RMS / 峭度	寿命
电池 SOH	电压 / 温度	容量
风电齿轮箱	频谱特征	故障类型