boosting

老鱼说AI3 天前
人工智能·深度学习·神经网络·机器学习·学习方法·集成学习·boosting
统计学习方法第八章:BoostingBoosting 就是把简单模型依次串联,每一步都死死盯着上一步的短板(损失函数的负梯度方向),通过加权修正,最终累加出一个极其强大的集成模型。
coldstarry4 天前
人工智能·机器学习·boosting
sheng的学习笔记-AI-xgboostAI目录:sheng的学习笔记-AI目录-CSDN博客前置知识:sheng的学习笔记-AI-集成学习(bagging,随机森林,堆叠法)
悟乙己8 天前
回归·集成学习·boosting
Boosting 回归模型的超参数调优包HGBoost介绍Boosting 回归模型的超参数调优:防止过拟合的实战指南 这篇文章主要教大家怎么给 XGBoost、CatBoost 和 LightGBM 这种强力的回归模型做超参数优化。很多人调参容易调过头,导致模型在训练集上表现好,一碰到新数据就拉胯。作者推荐用贝叶斯优化配合嵌套交叉验证,这样既能聪明地找到最优参数,又能保住模型的泛化能力。文章还拿经典的泰坦尼克号数据做了实战演示,并用 HGBoost 库把整个流程自动化了,非常适合想进阶模型调优的小伙伴。
哈伦201911 天前
分类·集成学习·boosting
第九章 集成学习 Boosting案例:信用卡欺诈分类数据集包含2013年9月欧洲持卡人的信用卡交易。 该数据集显示了两天内发生的交易,其中284,807宗交易中只有492个欺诈。 数据集高度不平衡,正类(欺诈交易)仅占所有交易的0.172%。
FelixZhang0281 个月前
人工智能·深度学习·机器学习·gru·lstm·边缘计算·boosting
工业时序工况识别项目复盘:从深度学习探索到 LightGBM/CatBoost 落地在工业智能化项目中,很多问题表面上看是一个“模型选择”问题,但真正做下来之后会发现,它往往是一个由数据质量、业务逻辑、模型能力、可解释性和工程落地共同决定的综合问题。
小何code1 个月前
随机森林·机器学习·集成学习·boosting
人工智能【第13篇】集成学习入门:Bagging与Boosting原理详解↵作者的话:在前面的文章中,我们学习了各种基础分类算法,如决策树、SVM、KNN和朴素贝叶斯。今天要介绍的集成学习(Ensemble Learning)是机器学习中最重要的技术之一。它通过组合多个基学习器来提高模型的性能和稳定性。本文将深入讲解Bagging和Boosting两大集成学习框架的原理、算法和实战应用!
wayz111 个月前
算法·机器学习·金融·集成学习·boosting
Day 11 编程实战:XGBoost金融预测与调参XGBoost提供多种特征重要性计算方式:建议:XGBoost核心原理:LightGBM核心创新:调参策略:
wayz111 个月前
算法·机器学习·集成学习·boosting
Day 10:集成学习进阶(Boosting: AdaBoost, GBDT)定义:Boosting 是一种将多个弱学习器串行组合成强学习器的集成方法,每个新模型都关注前一个模型犯错的样本。
wayz111 个月前
金融·集成学习·boosting
Day 10 编程实战:Boosting(AdaBoost & GBDT)金融预测GBDT 学习曲线偏差-方差分解Boosting 核心概念:AdaBoost:GBDT:超参数要点:模型对比:
Westward-sun.3 个月前
随机森林·集成学习·boosting
集成学习之随机森林:Bagging 与 Boosting 核心区别 + 原理深度解析在机器学习建模中,单一模型往往难以兼顾预测精度和泛化能力,要么易过拟合,要么拟合效果不足。而集成学习凭借 “组合多个弱学习器形成强学习器” 的核心思路,完美解决了这一痛点,成为工业界落地、算法竞赛夺冠的主流方法。
木非哲4 个月前
算法·机器学习·boosting
机器学习--从“三个臭皮匠”到 XGBoost:揭秘 Boosting 算法的“填坑”艺术在机器学习的江湖里,一直流传着一句老话:“三个臭皮匠,顶个诸葛亮。”这就是**集成学习(Ensemble Learning)**的核心思想。
老鱼说AI4 个月前
人工智能·深度学习·神经网络·机器学习·语言模型·自然语言处理·boosting
论文精读第七期:告别昂贵的人工标注!Math-Shepherd:如何用“零成本”自动化过程监督,让大模型数学能力暴涨?大模型做数学题总是“一步错,步步错”?大家都知道“过程奖励模型(PRM)”效果好,但动辄几十万条的人工标注数据实在太贵了。 今天这篇博客将带你深度拆解北大与 DeepSeek 联合推出的 Math-Shepherd。它不仅提出了一种无需人类介入、基于蒙特卡洛思想的自动化数据构造方法,更在 GSM8K 和 MATH 榜单上全面碾压了传统方法。这不仅是数学推理的胜利,更是数据工程的一次教科书级示范。无论你是想复现 SOTA 效果,还是想寻找低成本提升模型逻辑能力的方案,这篇文章都不容错过。
啊阿狸不会拉杆5 个月前
人工智能·算法·机器学习·计算机视觉·集成学习·boosting
《机器学习》第五章-集成学习(Bagging/Boosting)大家好!今天给大家带来机器学习中非常重要的一个章节 —— 集成学习。集成学习可以说是工业界最常用的机器学习算法之一,像随机森林、GBDT、XGBoost 这些经典模型都属于集成学习的范畴。本文会从基础概念到实战应用,一步步带你吃透集成学习,所有代码都可直接运行,还包含可视化对比图,让你直观理解每个知识点!
Dylan的码园5 个月前
人工智能·机器学习·ai作画·数据挖掘·boosting·oneflow
稀疏 MoE 与原生多模态双驱:2025 大模型技术演进全景AI是现在的潮流,我也试着收集了一些资料,分享一下,也是了解了解ai前言的东西~自 ChatGPT 掀起全球 AI 浪潮以来,大模型(Large Models)已成为人工智能领域的核心支柱,其能力边界不断拓展,从自然语言处理到计算机视觉,从单一任务适配到跨场景通用,深刻重塑了技术研发范式与产业应用逻辑。大模型的规模化发展带来了能力的跃升,但也面临着计算成本激增、多模态数据融合不彻底等核心挑战。在此背景下,稀疏 MoE(Mixture of Experts)与原生多模态双驱动技术应运而生,成为突破大模型性能
好奇龙猫5 个月前
人工智能·学习·boosting
【人工智能学习-AI-MIT公开课第 17.-学习:boosting 算法】为了应对大学院考试,我们来学习相关人工智能相关知识,并且是基于相关课程。使用课程为MIT的公开课。通过学习,也算是做笔记,让自己更理解些。
补三补四5 个月前
算法·集成学习·boosting
XGBoost(eXtreme Gradient Boosting)算法的核心原理与底层实现技术机器学习领域中,集成学习方法因其强大的预测性能和良好的泛化能力而备受关注。其中, 梯度提升树(Gradient Boosting Decision Tree, GBDT) 作为一种基于 Boosting 思想的集成学习算法,通过组合多个弱学习器(通常是 CART 回归树)来构建强大的预测模型。然而,传统 GBDT 在处理大规模数据、高维特征以及复杂非线性关系时存在诸多限制,如训练速度慢、内存占用大、缺乏并行化支持等问题。
智算菩萨5 个月前
机器学习·集成学习·boosting
【Python机器学习】Bagging 与 Boosting:集成学习的两种风格目录1 引言2 基础知识2.1 集成学习的基本原理2.2 Bagging 方法的理论基础2.3 Boosting 方法的理论基础
core5125 个月前
机器学习·adaboost·boosting
Adaboost (Adaptive Boosting):错题本上的逆袭图解说明:机器学习界的一位“励志大师”——Adaboost。它的全称是 Adaptive Boosting(自适应增强)。听起来很技术流,但它的核心思想其实就是我们学生时代最熟悉的战术:“刷错题”。
free-elcmacom6 个月前
python·算法·机器学习·boosting
机器学习进阶<13>基于Boosting集成算法的信用评分卡模型构建与对比分析之前写Boosting理论博客时,我想做一个小项目让读者更加深入理解这些算法,于是我想到了“能不能用这个做金融风控的评分卡?”写这个项目的时候踩了不少“理论对不上实战”的坑,比如样本不平衡时AdaBoost直接失效、GBDT可解释性差被监管质疑。
咨询QQ688238866 个月前
boosting
探索宽电压范围大功率双向全桥LLC调频加移相混合调制(PFM + PSM)宽电压范围大功率双向全桥LLC调频加移相混合调制(PFM+PSM) 1、正向LLC拓扑:输入400V,输出200~800V a.移相的电压范围为输出在200~350V之间 b.调频的电压范围为输出在350~800V之间(谐振腔的参数根据这个范围计算的),计算是按照输入额定电压400和输出额定电压380来计算的电压变比, 故额定工况在400V和380V 2、反向LC拓扑:输入200~800V,输出 可供学习参考。