Python Day50 学习(仍为日志Day19的内容复习)

补充:梳理超参数调整流程(逻辑)

超参数调节的流程逻辑可以总结为以下几个步骤:


1. 明确目标

确定你要优化的模型和评估指标(如准确率、F1值、AUC等)。


2. 选择要调节的超参数

列出模型中影响较大的超参数,比如:

  • 决策树:max_depth, min_samples_split
  • LightGBM:num_leaves, learning_rate, n_estimators 等

3. 确定参数搜索空间

为每个超参数设定一个合理的取值范围(如 learning_rate 在 0.01~0.2 之间)。


4. 选择调参方法

常见方法有:

  • 网格搜索(Grid Search):遍历所有参数组合
  • 随机搜索(Random Search):随机采样参数组合
  • 贝叶斯优化等智能搜索方法

5. 划分数据集

将数据分为训练集、验证集(或使用交叉验证),不能用测试集调参。


6. 运行调参

在训练集上训练模型,在验证集上评估每组参数的效果,记录结果。


7. 选择最优参数

根据验证集上的评估指标,选出表现最好的参数组合。


8. 最终评估

用最优参数在测试集上评估模型,得到最终结果。


总结流程图:

确定目标 → 选超参数 → 定范围 → 选方法 → 划分数据 → 运行调参 → 选最优 → 测试集评估

这样可以保证模型既不过拟合,也能达到最优效果。

手写笔记复习(贝叶斯优化)

今日复习到这里,明日继续加油!!

相关推荐
fwc2 小时前
第J2周:ResNetV2算法学习
学习
一水鉴天3 小时前
同一与唯一:AppBus 外壳与 DevOps 内核 之1 20261121(元宝)
人工智能·机器学习
Wellijohn3 小时前
我把公司内部的 12 个 CRUD 接口交给了 AI Agent,然后省出了两周
人工智能·python·mcp
Rabitebla5 小时前
【Linux】文件篇(五):手撕简易 FILE——模拟实现 C 标准 I/O 缓冲机制
linux·服务器·c语言·笔记·学习·ubuntu
2601_967980115 小时前
python pytest怎样测试代码
python·pytest·测试·文档·断言
伞伞悦读5 小时前
【第92期】逻辑回归的分数概率与阈值的实验与排查
人工智能·python·深度学习·机器学习
ch6236 小时前
🚀 从零构建本地文档智能审查 Agent:Vibe Coding 实战指南
python
摇滚侠6 小时前
《On Java 中文版 基础卷》阅读笔记 接口 18
java·笔记·python
电科_银尘7 小时前
【大模型算法与工程 27】训练配方:批量、学习率、精度与梯度裁剪
学习·算法·机器学习
Thanks_ks7 小时前
AI Agent 开发入门:用 Function Calling 让大模型学会 “动手干活”,附订单查询机器人实战
python·ai·大模型·openai·agent·通义千问·mcp