机器学习之超参数是什么?

机器学习里的「超参数」,用最简单的话讲清楚

超参数 = 训练前由人手动设置、模型自己不会学的参数


1. 一句话区分

  • 模型参数(参数)

    模型在训练过程中自己学到 的东西

    比如:权重、系数、分割点

  • 超参数(超参)

    训练之前就要定好 ,模型不会自己改,必须人来设置

    比如:KNN 的 k、学习率、树的深度


2. 用你刚才的代码举例子

你写过:

python 复制代码
estimator=KNeighborsClassifier(n_neighbors=3)

这里的

n_neighbors=3

就是最典型的超参数

  • 模型训练时不会自动把 3 改成 5、改成 1
  • 必须由你手动写死
  • 改它会直接影响模型效果

这就叫超参数


3. 常见超参数有哪些?

  • KNN:n_neighbors(看最近几个邻居)
  • 决策树/随机森林:树深度 max_depth、树的数量
  • 神经网络:学习率 learning_rate、批次大小 batch_size
  • 训练:迭代次数 epochs
  • 正则化:Calpha

4. 超参数用来干嘛?

用来控制模型训练方式、复杂程度、速度,比如:

  • k 太小 → 模型太敏感,容易过拟合
  • k 太大 → 模型太迟钝,欠拟合
  • 学习率太大 → 训不收敛
  • 学习率太小 → 训练太慢

调参 = 调整超参数


5. 超参数 vs 参数 终极总结

  • 参数:模型自己学出来的 → 不用人管
  • 超参数:人提前设定的 → 要人调

你代码里的 n_neighbors=3,就是超参数

相关推荐
2601_9557594112 分钟前
Claude Opus 5 如何提升 SEO 内容生产效率:从关键词到文章发布
人工智能
小二·20 分钟前
大模型效率化革命:稀疏注意力+量化蒸馏+推理压缩,2026年如何用更少算力跑更强模型
人工智能
MartinYeung543 分钟前
DC Scameter:一份反诈骗相关的专业分析报告
人工智能·安全
硅徒1 小时前
企业 RAG 的检索注入:让知识库吐出机密文档的攻击面
人工智能
Getflare1 小时前
前端 + UI 设计 + AI:这不是三个工种,是一个新三角能力模型(附自检清单)
前端·人工智能·ui
墨舟的AI笔记1 小时前
Core Web Vitals 闭环:LCP/INP/CLS 的前端监控落地
人工智能
NPE~1 小时前
[AI]Agent开发——ADK框架使用
人工智能·python·ai·教程·adk·agent开发
莫名的好感°1 小时前
国内AI视频工具哪家强?FusionAI聚合即梦Seedance、可灵Kling、HappyHorse、Google Veo,一个平台看懂所有选择
大数据·人工智能
语歌1 小时前
AI 语言学习系统的工程边界:为什么 LLM 不该负责复习排期
人工智能·swift