集成学习

keykey6.12 天前
人工智能·机器学习·集成学习
集成学习:从 Bagging 到 XGBoost摘要:前面学的每个算法都有各自的优缺点——线性回归简单但只能拟合线性关系,决策树可解释但容易过拟合,SVM 效果好但调参复杂。集成学习的思路是:不纠结于找"最好的单一算法",而是把多个"弱"模型组合起来,得到一个"强"模型。这就是"三个臭皮匠,顶个诸葛亮"的机器学习版本。这篇文章系统介绍三种集成策略:Bagging(并行)、Boosting(串行)、Stacking(混合),以及它们的代表算法。
FPC_小西14 天前
人工智能·单片机·嵌入式硬件·集成学习·pcb工艺·hdi高密度互联
LDO 低压差线性稳压器 拆解电源稳压核心原理LDO 全称Low Dropout Regulator(低压差线性稳压器),属于线性电源 IC,核心能力:即便输入、输出电压差值很小,依旧能输出稳定精准的直流电压。常规老式线性稳压器需要输入比输出高 2~3V 才能工作,而 LDO 凭借低导通内阻的输出驱动管,极小压差即可稳压,也是锂电池供电设备首选电源方案(典型应用:3.0V 锂电池降压给 MCU 输出 1.0V 稳定电压)。
xyz_CDragon19 天前
python·ai编程·集成学习·ollama·deepseek·openclaw
OpenClaw 局域网调用 Ollama 本地大模型:完整配置与踩坑指南OpenClaw 是一个非常好用的 AI 助手平台,但它默认依赖云端 API。用量确实很大,费用真的不便宜,每月至少几百块打底。 而本地模型呢?一次硬件投入,零边际成本。 数据不出门,连隐私问题也一并解决了。
机器学习之心19 天前
支持向量机·回归·集成学习·stacking
基于Stacking集成学习的回归预测模型:当PLS、SVM、BP、RF遇上BiLSTM本文系统介绍了一种基于Stacking策略的集成学习回归预测方法:以偏最小二乘(PLS)、支持向量机(SVM)、BP神经网络、随机森林(RF)作为基学习器,以双向长短期记忆网络(BiLSTM)作为元学习器,构建两层融合预测架构。实验结果表明,Stacking模型R²达到0.9881,较基学习器平均性能提升14.67%,实现了多模型协同互补、精度显著超越单一模型的预期目标。
老鱼说AI25 天前
人工智能·深度学习·神经网络·机器学习·学习方法·集成学习·boosting
统计学习方法第八章:BoostingBoosting 就是把简单模型依次串联,每一步都死死盯着上一步的短板(损失函数的负梯度方向),通过加权修正,最终累加出一个极其强大的集成模型。
Honker_yhw25 天前
人工智能·数据挖掘·集成学习
大数据管理与应用系列丛书《数据挖掘》(吕欣等著)读书笔记-集成学习与 AdaBoost初学集成学习常会卡在 AdaBoost 权重更新、强弱分类器融合等难点,翻阅吕欣老师《数据挖掘》后豁然开朗。书本立足学习者认知规律,先铺垫集成学习基础思想,再循序渐进详解 AdaBoost 推导逻辑,难点分步拆解、辅以通俗说明,避开繁杂冗余内容,无论是课程配套学习,还是自主钻研集成算法,都是可读性很强的工具书。 在线学习开源代码:https://github.com/XL-lab-bigdata/DataMining
子非鱼92125 天前
决策树·机器学习·集成学习
机器学习之决策树与集成学习决策树是一种模拟人类“分而治之”决策逻辑的树形模型,其核心优势在于直观易懂和解释性强。它通过一系列“如果…那么…”的规则对数据进行分割,最终到达一个结论。
hai3152475431 个月前
数据结构·自然语言处理·硬件工程·动态规划·集成学习
结构化编程:AI工业化编程的探索AI辅助编程并非新鲜事物。GitHub Copilot已在超过两万家企业的代码库中被使用,Amazon CodeWhisperer、Tabnine、Replit Ghostwriter等工具相继涌现。这些工具都聚焦于“代码补全”——根据上下文猜测开发者接下来想写什么,然后生成一行或几行代码建议。
Bingorl1 个月前
人工智能·机器学习·集成学习
机器学习之集成学习集成学习是机器学习中的一种思想,它通过多个模型的组合形成一个精度更高的模型,参与组合的模型称为弱学习器(基学习器)。训练时,使用训练集依次训练出这些弱学习器,对未知的样本进行预测时,使用这些弱学习器联合进行预测。
qingyulee1 个月前
算法·聚类·集成学习
集成学习、聚类算法通过多个模型的组合形成一个精度更高的模型,参与组合的模型称为弱学习器(弱学习器)。训练时,使用训练集依次训练出这些弱学习器,对未知的样本进行预测时,使用这些弱学习器联合进行预测。
悟乙己1 个月前
回归·集成学习·boosting
Boosting 回归模型的超参数调优包HGBoost介绍Boosting 回归模型的超参数调优:防止过拟合的实战指南 这篇文章主要教大家怎么给 XGBoost、CatBoost 和 LightGBM 这种强力的回归模型做超参数优化。很多人调参容易调过头,导致模型在训练集上表现好,一碰到新数据就拉胯。作者推荐用贝叶斯优化配合嵌套交叉验证,这样既能聪明地找到最优参数,又能保住模型的泛化能力。文章还拿经典的泰坦尼克号数据做了实战演示,并用 HGBoost 库把整个流程自动化了,非常适合想进阶模型调优的小伙伴。
机器学习之心1 个月前
支持向量机·回归·集成学习·stacking
Stacking集成学习回归预测:PLS+SVM+BP+RF+LSTM作者:机器学习之心 标签:#集成学习 #Stacking #LSTM #回归预测 #机器学习本文介绍了一种基于Stacking集成学习框架的多模型回归预测方法。该方法融合了偏最小二乘回归(PLS)、支持向量机(SVM)、BP神经网络和随机森林(RF)四种基学习器,并采用长短期记忆网络(LSTM)作为元学习器进行最终预测。实验结果表明,Stacking模型在测试集上取得了R² = 0.9866的优异性能,相比单一基学习器平均性能提升。
哈伦20191 个月前
人工智能·机器学习·集成学习
第九章 集成学习 Bagging案例:某产品召回预测本案例中所使用的数据为某产品召回前调查,出于敏感信息保密原则,具体字段名称做了一定的替换。主要的字段有四个渠道的消费和时长以及和客服沟通的次数等
哈伦20191 个月前
分类·集成学习·boosting
第九章 集成学习 Boosting案例:信用卡欺诈分类数据集包含2013年9月欧洲持卡人的信用卡交易。 该数据集显示了两天内发生的交易,其中284,807宗交易中只有492个欺诈。 数据集高度不平衡,正类(欺诈交易)仅占所有交易的0.172%。
放下华子我只抽RuiKe51 个月前
前端·javascript·深度学习·react.js·前端框架·ecmascript·集成学习
React 从入门到生产(八):测试与部署创作者: Yardon | GitHub: github.com/YardonYan | 版本: v1.0
bingHHB1 个月前
etl·集成学习
铜排产线数字化升级实战-生产企业应该如何进行信息化建设前言:在制造业数字化转型的深水区,生产执行层(MES)与资源计划层(ERP)的割裂,已经成为制约企业降本增效的最大瓶颈。本文以铜排自动产线数字化升级项目为实践案例,深度拆解MES系统与金蝶云星辰ERP的集成方案,涵盖基础数据同步、生产工单协同、物料库存双向管理、业财一体化等六大核心场景,并配有完整的数据流向架构图、生产管理泳道图和业财一体化流程图,为制造企业的系统对接提供可直接落地的参考范式。
YUDAMENGNIUBI1 个月前
决策树·集成学习
day28_决策树与集成学习决策树是一种树形结构,在机器学习中用于分类和回归任务。树中每个内部节点表示一个特征上的判断,每个分支代表一个判断结果的输出,每个叶子节点代表一种分类结果。 生活中的决策树——女孩相亲:
渡我白衣1 个月前
人工智能·深度学习·神经网络·机器学习·自然语言处理·语音识别·集成学习
第十五章:海纳百川——集成学习的高级策略与Stacking硬核实战在上一章“从树到森林”中,我们领略了Bagging通过并行投票降低方差、Boosting通过顺序纠错降低偏差的强大威力。然而,当单一算法家族(比如清一色的决策树)遇到性能瓶颈时,我们需要更宏大的视野——“海纳百川”。本章将彻底撕开模型融合的底层黑盒,带你从零构建工业级的Stacking流水线。
放下华子我只抽RuiKe51 个月前
前端·javascript·深度学习·react.js·开源·ecmascript·集成学习
React 从入门到生产(三):副作用与数据获取创作者: Yardon | GitHub: github.com/YardonYan | 版本: v1.0
nebula-AI1 个月前
人工智能·深度学习·神经网络·算法·机器学习·集成学习·sklearn
人工智能导论:模型与算法(核心技术)机器学习是智能体从数据中自动学习知识的一种人工智能方法。其目标是从原始数据中提取特征,学习一个映射函数fff将特征映射到语义空间,寻找数据和任务目标之间的关系。