补充：梳理超参数调整流程（逻辑）
超参数调节的流程逻辑可以总结为以下几个步骤：
1. 明确目标
确定你要优化的模型和评估指标（如准确率、F1值、AUC等）。
2. 选择要调节的超参数
列出模型中影响较大的超参数，比如：
- 决策树：max_depth, min_samples_split
- LightGBM：num_leaves, learning_rate, n_estimators 等
3. 确定参数搜索空间
为每个超参数设定一个合理的取值范围（如 learning_rate 在 0.01~0.2 之间）。
4. 选择调参方法
常见方法有：
- 网格搜索（Grid Search）：遍历所有参数组合
- 随机搜索（Random Search）：随机采样参数组合
- 贝叶斯优化等智能搜索方法
5. 划分数据集
将数据分为训练集、验证集（或使用交叉验证），不能用测试集调参。
6. 运行调参
在训练集上训练模型，在验证集上评估每组参数的效果，记录结果。
7. 选择最优参数
根据验证集上的评估指标，选出表现最好的参数组合。
8. 最终评估
用最优参数在测试集上评估模型，得到最终结果。
总结流程图：
确定目标 → 选超参数 → 定范围 → 选方法 → 划分数据 → 运行调参 → 选最优 → 测试集评估
这样可以保证模型既不过拟合，也能达到最优效果。
手写笔记复习（贝叶斯优化）
今日复习到这里，明日继续加油!!