机器学习之超参数是什么?

机器学习里的「超参数」,用最简单的话讲清楚

超参数 = 训练前由人手动设置、模型自己不会学的参数


1. 一句话区分

  • 模型参数(参数) :

    模型在训练过程中自己学到 的东西

    比如:权重、系数、分割点

  • 超参数(超参) :

    训练之前就要定好 ,模型不会自己改,必须人来设置

    比如:KNN 的 k、学习率、树的深度


2. 用你刚才的代码举例子

你写过:

python 复制代码
estimator=KNeighborsClassifier(n_neighbors=3)

这里的

n_neighbors=3

就是最典型的超参数

  • 模型训练时不会自动把 3 改成 5、改成 1
  • 必须由你手动写死
  • 改它会直接影响模型效果

这就叫超参数。


3. 常见超参数有哪些?

  • KNN:n_neighbors(看最近几个邻居)
  • 决策树/随机森林:树深度 max_depth、树的数量
  • 神经网络:学习率 learning_rate、批次大小 batch_size
  • 训练:迭代次数 epochs
  • 正则化:C、alpha

4. 超参数用来干嘛?

用来控制模型训练方式、复杂程度、速度,比如:

  • k 太小 → 模型太敏感,容易过拟合
  • k 太大 → 模型太迟钝,欠拟合
  • 学习率太大 → 训不收敛
  • 学习率太小 → 训练太慢

调参 = 调整超参数


5. 超参数 vs 参数 终极总结

  • 参数:模型自己学出来的 → 不用人管
  • 超参数:人提前设定的 → 要人调

你代码里的 n_neighbors=3,就是超参数。

相关推荐
零基础1233 分钟前
Agent 的 Memory 怎么做科研:以中医诊断场景为例
人工智能·经验分享·python·语言模型
归秋1426 分钟前
人声节奏对齐软件推荐:从专业DAW到AI人声制作工具怎么选
人工智能
2601_962966641 小时前
数学与应用数学专业想进管理咨询,2027届秋招需要补哪些商业知识和技能?
人工智能
ss2731 小时前
AI全栈实战 | 3.2-01 Python 基础:四大数据容器怎么选,推导式为什么是 Pythonic 的灵魂
开发语言·人工智能·python
Sweet锦1 小时前
不调 Python,不装向量库:我用纯 Java 写了一套以图搜图引擎
java·人工智能·开源·图搜索
fpcc2 小时前
AI和大模型—JEV模型
人工智能
weixin_446260852 小时前
面向演进式企业AI智能体技能的持续流程级评估
人工智能
量子-Alex2 小时前
【大模型后训练SFT】Finetuning with Sampling: SFT Learns Better Than You Think
人工智能·深度学习·机器学习
ForDreamMusk2 小时前
Transformer Encoder Block
人工智能·深度学习·transformer
W***25922 小时前
深度解读AI Work Agent长程任务执行的底层机制与落地边界
人工智能