机器学习之超参数是什么?

机器学习里的「超参数」,用最简单的话讲清楚

超参数 = 训练前由人手动设置、模型自己不会学的参数


1. 一句话区分

  • 模型参数(参数)

    模型在训练过程中自己学到 的东西

    比如:权重、系数、分割点

  • 超参数(超参)

    训练之前就要定好 ,模型不会自己改,必须人来设置

    比如:KNN 的 k、学习率、树的深度


2. 用你刚才的代码举例子

你写过:

python 复制代码
estimator=KNeighborsClassifier(n_neighbors=3)

这里的

n_neighbors=3

就是最典型的超参数

  • 模型训练时不会自动把 3 改成 5、改成 1
  • 必须由你手动写死
  • 改它会直接影响模型效果

这就叫超参数


3. 常见超参数有哪些?

  • KNN:n_neighbors(看最近几个邻居)
  • 决策树/随机森林:树深度 max_depth、树的数量
  • 神经网络:学习率 learning_rate、批次大小 batch_size
  • 训练:迭代次数 epochs
  • 正则化:Calpha

4. 超参数用来干嘛?

用来控制模型训练方式、复杂程度、速度,比如:

  • k 太小 → 模型太敏感,容易过拟合
  • k 太大 → 模型太迟钝,欠拟合
  • 学习率太大 → 训不收敛
  • 学习率太小 → 训练太慢

调参 = 调整超参数


5. 超参数 vs 参数 终极总结

  • 参数:模型自己学出来的 → 不用人管
  • 超参数:人提前设定的 → 要人调

你代码里的 n_neighbors=3,就是超参数

相关推荐
2601_955781981 小时前
企业微信智能助手一键对接方案
人工智能·企业微信·open claw安装
上海合宙LuatOS1 小时前
Air780EPM通过MQTT上传温湿度数据
开发语言·人工智能·物联网·junit·luatos
zadyd2 小时前
vLLM Linux 双卡部署大模型服务器指南
linux·人工智能·python·机器学习·vllm
j_xxx404_2 小时前
Linux命名管道:跨进程通信实战指南|附源码
linux·运维·服务器·人工智能·ai
agicall.com8 小时前
座机通话双方语音分离技术解决方案详解
人工智能·语音识别·信创电话助手·座机语音转文字·固话座机录音转文字
AI机器学习算法8 小时前
《动手学深度学习PyTorch版》笔记
人工智能·学习·机器学习
Goboy9 小时前
「我的第一次移动端 AI 办公」TRAE SOLO 三端联动, 通勤路上就把活干了,这设计,老罗看了都想当场退役
人工智能·ai编程·trae
qq_452396239 小时前
第二十篇:《UI自动化测试的未来:AI驱动的智能测试与低代码平台》
人工智能·低代码·ui
视觉&物联智能9 小时前
【杂谈】-人工智能风险文化对组织决策的深远影响
人工智能·安全·ai·agi
β添砖java9 小时前
深度学习(12)Kaggle房价竞赛
人工智能·深度学习