找到【SVM】中最优的惩罚项系数C

因为本来SVM是想找到间隔最大的分割面,所以C越大,SVC会选择边际更小的,能够更好的分类所有训练点的决策边界,不过模型的训练时间也会越长。如果C的设定值较小,那SVC会尽量最大化边界,决策功能会更简单,但代价是训练的准确度。

我们先来调线性核函数:

python 复制代码
#调线性核函数
score = []
C_range = np.linspace(0.01,30,50)
for i in C_range:
    clf = SVC(kernel="linear",C=i,cache_size=5000).fit(Xtrain,Ytrain)
    score.append(clf.score(Xtest,Ytest))
print(max(score), C_range[score.index(max(score))])
plt.plot(C_range,score)
plt.show()

输出结果为:0.9766081871345029 1.2340816326530613

可以看到准确率最高是97%以上。接下来我们来看看在rbf上的结果:

python 复制代码
score = []
C_range = np.linspace(0.01,30,50)
for i in C_range:
    clf = SVC(kernel="rbf",C=i,gamma = 0.012742749857031322,cache_size=5000).fit(Xtrain,Ytrain)
    score.append(clf.score(Xtest,Ytest))
    
print(max(score), C_range[score.index(max(score))])
plt.plot(C_range,score)
plt.show()

输出结果为:0.9824561403508771 6.130408163265306

既然最高的得分所对应的C值是6,那么我们可以在5-7之间进一步细化,看能否找到一个更好的局部最优:

python 复制代码
#进一步细化
score = []
C_range = np.linspace(5,7,50)
for i in C_range:
    clf = SVC(kernel="rbf",C=i,gamma = 
0.012742749857031322,cache_size=5000).fit(Xtrain,Ytrain)
    score.append(clf.score(Xtest,Ytest))
    
print(max(score), C_range[score.index(max(score))])
plt.plot(C_range,score)
plt.show()

输出结果为:0.9824561403508771 5.938775510204081

可以看到,98.2456%就是我们最好的得分。

相关推荐
慧星云18 分钟前
魔多 AI 支持 Kontext 在线训练 :超高角色一致性助您创作
人工智能·云计算·aigc
小周不长肉20 分钟前
AI幻觉的罪魁祸首
人工智能
小关会打代码22 分钟前
计算机视觉进阶教学之图像投影(透视)变换
人工智能·计算机视觉
星期天要睡觉24 分钟前
(纯新手教学)计算机视觉(opencv)实战十四——模板与多个对象匹配
人工智能·opencv·计算机视觉
一株月见草哇26 分钟前
(一)昇腾AI处理器技术
人工智能·ai·芯片
xieyan081127 分钟前
论文阅读_大模型情绪分析预测股票趋势
人工智能
mortimer33 分钟前
一次 ModelScope 替代 Hugging Face 的模型下载实战指南
人工智能·llm
柠檬味拥抱1 小时前
2000 张人脸眼部检测数据集 | 标注规范、数据划分与应用场景
人工智能
芒果快进我嘴里1 小时前
超球损失函数
人工智能·机器学习