boosting

想会飞的蒲公英

集成学习入门：Bagging、Boosting 到底在组合什么随机森林不是一棵树，而是一组树共同投票。这种“多个模型组合决策”的做法就是集成学习（Ensemble Learning）：不依赖单一模型，而是把多个模型的判断组合起来，让整体更稳或更强。

集成学习实战：Bagging/Boosting/Stacking

NLP 基础：文本预处理/词向量/文本分类

烟锁池塘柳0

【机器学习】万字长文详解集成学习 Ensemble Learning：从 Bagging、Boosting 到 Stacking 的全解析Ensemble Learning，中文通常称为集成学习，是一种非常重要的机器学习思想。它的核心思想是不依赖单个模型做决策，而是训练多个模型，并将它们的预测结果组合起来，从而获得更稳定、更准确、更鲁棒的最终模型。

统计学习方法第八章：BoostingBoosting 就是把简单模型依次串联，每一步都死死盯着上一步的短板（损失函数的负梯度方向），通过加权修正，最终累加出一个极其强大的集成模型。

sheng的学习笔记-AI-xgboostAI目录：sheng的学习笔记-AI目录-CSDN博客前置知识：sheng的学习笔记-AI-集成学习（bagging，随机森林，堆叠法）

Boosting 回归模型的超参数调优包HGBoost介绍Boosting 回归模型的超参数调优：防止过拟合的实战指南这篇文章主要教大家怎么给 XGBoost、CatBoost 和 LightGBM 这种强力的回归模型做超参数优化。很多人调参容易调过头，导致模型在训练集上表现好，一碰到新数据就拉胯。作者推荐用贝叶斯优化配合嵌套交叉验证，这样既能聪明地找到最优参数，又能保住模型的泛化能力。文章还拿经典的泰坦尼克号数据做了实战演示，并用 HGBoost 库把整个流程自动化了，非常适合想进阶模型调优的小伙伴。

第九章集成学习 Boosting案例：信用卡欺诈分类数据集包含2013年9月欧洲持卡人的信用卡交易。该数据集显示了两天内发生的交易，其中284,807宗交易中只有492个欺诈。数据集高度不平衡，正类(欺诈交易）仅占所有交易的0.172%。

工业时序工况识别项目复盘：从深度学习探索到 LightGBM/CatBoost 落地在工业智能化项目中，很多问题表面上看是一个“模型选择”问题，但真正做下来之后会发现，它往往是一个由数据质量、业务逻辑、模型能力、可解释性和工程落地共同决定的综合问题。

人工智能【第13篇】集成学习入门：Bagging与Boosting原理详解↵作者的话：在前面的文章中，我们学习了各种基础分类算法，如决策树、SVM、KNN和朴素贝叶斯。今天要介绍的集成学习（Ensemble Learning）是机器学习中最重要的技术之一。它通过组合多个基学习器来提高模型的性能和稳定性。本文将深入讲解Bagging和Boosting两大集成学习框架的原理、算法和实战应用！

Day 11 编程实战：XGBoost金融预测与调参XGBoost提供多种特征重要性计算方式：建议：XGBoost核心原理：LightGBM核心创新：调参策略：

Day 10：集成学习进阶（Boosting: AdaBoost, GBDT）定义：Boosting 是一种将多个弱学习器串行组合成强学习器的集成方法，每个新模型都关注前一个模型犯错的样本。

Day 10 编程实战：Boosting（AdaBoost & GBDT）金融预测GBDT 学习曲线偏差-方差分解Boosting 核心概念：AdaBoost：GBDT：超参数要点：模型对比：

集成学习之随机森林：Bagging 与 Boosting 核心区别 + 原理深度解析在机器学习建模中，单一模型往往难以兼顾预测精度和泛化能力，要么易过拟合，要么拟合效果不足。而集成学习凭借 “组合多个弱学习器形成强学习器” 的核心思路，完美解决了这一痛点，成为工业界落地、算法竞赛夺冠的主流方法。

机器学习--从“三个臭皮匠”到 XGBoost：揭秘 Boosting 算法的“填坑”艺术在机器学习的江湖里，一直流传着一句老话：“三个臭皮匠，顶个诸葛亮。”这就是**集成学习（Ensemble Learning）**的核心思想。

论文精读第七期：告别昂贵的人工标注！Math-Shepherd：如何用“零成本”自动化过程监督，让大模型数学能力暴涨？大模型做数学题总是“一步错，步步错”？大家都知道“过程奖励模型（PRM）”效果好，但动辄几十万条的人工标注数据实在太贵了。今天这篇博客将带你深度拆解北大与 DeepSeek 联合推出的 Math-Shepherd。它不仅提出了一种无需人类介入、基于蒙特卡洛思想的自动化数据构造方法，更在 GSM8K 和 MATH 榜单上全面碾压了传统方法。这不仅是数学推理的胜利，更是数据工程的一次教科书级示范。无论你是想复现 SOTA 效果，还是想寻找低成本提升模型逻辑能力的方案，这篇文章都不容错过。

啊阿狸不会拉杆

《机器学习》第五章-集成学习（Bagging/Boosting）大家好！今天给大家带来机器学习中非常重要的一个章节 —— 集成学习。集成学习可以说是工业界最常用的机器学习算法之一，像随机森林、GBDT、XGBoost 这些经典模型都属于集成学习的范畴。本文会从基础概念到实战应用，一步步带你吃透集成学习，所有代码都可直接运行，还包含可视化对比图，让你直观理解每个知识点！

稀疏 MoE 与原生多模态双驱：2025 大模型技术演进全景AI是现在的潮流,我也试着收集了一些资料,分享一下,也是了解了解ai前言的东西~自 ChatGPT 掀起全球 AI 浪潮以来，大模型（Large Models）已成为人工智能领域的核心支柱，其能力边界不断拓展，从自然语言处理到计算机视觉，从单一任务适配到跨场景通用，深刻重塑了技术研发范式与产业应用逻辑。大模型的规模化发展带来了能力的跃升，但也面临着计算成本激增、多模态数据融合不彻底等核心挑战。在此背景下，稀疏 MoE（Mixture of Experts）与原生多模态双驱动技术应运而生，成为突破大模型性能

【人工智能学习-AI-MIT公开课第 17.-学习：boosting 算法】为了应对大学院考试，我们来学习相关人工智能相关知识，并且是基于相关课程。使用课程为MIT的公开课。通过学习，也算是做笔记，让自己更理解些。

XGBoost（eXtreme Gradient Boosting）算法的核心原理与底层实现技术机器学习领域中，集成学习方法因其强大的预测性能和良好的泛化能力而备受关注。其中，梯度提升树（Gradient Boosting Decision Tree, GBDT）作为一种基于 Boosting 思想的集成学习算法，通过组合多个弱学习器（通常是 CART 回归树）来构建强大的预测模型。然而，传统 GBDT 在处理大规模数据、高维特征以及复杂非线性关系时存在诸多限制，如训练速度慢、内存占用大、缺乏并行化支持等问题。