集成学习

Ivanqhz1 天前
算法·决策树·机器学习·集成学习
泰勒展开(Taylor Expansion)一句话概括:泰勒展开是一种用多项式函数去近似任意复杂函数的方法。直观类比:想象你站在一座山的某个位置(点 a a a),你只能感知到脚下的坡度(一阶导数)和地面的弯曲程度(二阶导数)。泰勒展开就是利用这些局部信息,预测如果你往前走一小步( x − a x-a x−a),海拔会变成多少。
Ivanqhz2 天前
人工智能·机器学习·集成学习
偏差与方差,及集成学习这是机器学习中最经典的“误差三角”问题。我们用“打靶”来形象理解:数学分解(回归任务): 模型的期望误差 = 偏差² + 方差 + 不可约误差。 E[(y−f^(x))2]=(E[f^(x)]−f(x))2⏟Bias2+E[(f^(x)−E[f^(x)])2]⏟Variance+σ2 \mathbb{E}[(y - \hat{f}(x))^2] = \underbrace{(\mathbb{E}[\hat{f}(x)] - f(x))^2}_{\text{Bias}^2} + \underbrace{\m
倒流时光三十年4 天前
机器学习·集成学习·boosting
第五阶段 41 · 相关性调优(boosting、function_score、filter vs query 上下文)阶段:第五阶段 / 进阶与实战 主题:_score 怎么来的、怎么调,以及 filter/query 上下文的性能差异
是上好佳佳佳呀9 天前
笔记·机器学习·集成学习
【机器学习|DAY06】集成学习(Ensemble Learning)笔记集成学习(Ensemble Learning,En-使进入 + semble-源自拉丁语"simul"= together 一起 → “把多个模型集合到一起学习”)本身不是一个具体的算法模型,而是一种组合策略思想。 核心思路:单个模型的预测能力有限,通过训练多个模型,让它们合作做决策,取长补短,最终效果优于任何一个单独的模型。
ZKNOW甄知科技16 天前
大数据·运维·网络·数据库·人工智能·低代码·集成学习
燕千云深度集成飞书:以AI之力,开启无感IT运维体验燕千云深度集成飞书:以AI之力,开启无感IT运维体验在企业数字化转型进程中,提升内部IT服务效率与员工办公体验已成为核心课题。许多企业面临着两难境地:
Yunzenn21 天前
人工智能·笔记·深度学习·机器学习·transformer·集成学习·vllm
强化学习1-Liu2026_GFlowRL_精读笔记一句话:微软研究院把GFlowNet中那个"学不会又爱捣乱"的配分函数网络直接砍掉,用批次内蒙特卡洛估计替代,让分布匹配RL首次在235B MoE上稳定训练,顺便在14B规模就追平了o3-mini的做题水平。
想会飞的蒲公英24 天前
人工智能·python·机器学习·集成学习·boosting
集成学习入门:Bagging、Boosting 到底在组合什么随机森林不是一棵树,而是一组树共同投票。这种“多个模型组合决策”的做法就是集成学习(Ensemble Learning):不依赖单一模型,而是把多个模型的判断组合起来,让整体更稳或更强。
海海不掉头发1 个月前
机器学习·分类·集成学习
机器学习实战:从零掌握集成学习(RF/XGBoost/GBDT/AdaBoost)—— 附泰坦尼克号、红酒分类、加州房价全流程解析作者:海宁不掉头发发布时间:2026-07-08阅读建议:本文适合有一定Python基础、刚入门机器学习的同学。
Java小白笔记1 个月前
人工智能·算法·chatgpt·ai编程·集成学习
Codex config.toml配置实战指南基于 2026-07-07 Codex 桌面应用实际配置,逐项说明每个配置项的作用、触发场景和验证方法。
大鱼>1 个月前
机器学习·集成学习·boosting
集成学习实战:Bagging/Boosting/Stacking
大鱼>1 个月前
人工智能·深度学习·集成学习·boosting
NLP 基础:文本预处理/词向量/文本分类
烟锁池塘柳01 个月前
机器学习·集成学习·boosting
【机器学习】万字长文详解集成学习 Ensemble Learning:从 Bagging、Boosting 到 Stacking 的全解析Ensemble Learning,中文通常称为 集成学习,是一种非常重要的机器学习思想。它的核心思想是不依赖单个模型做决策,而是训练多个模型,并将它们的预测结果组合起来,从而获得更稳定、更准确、更鲁棒的最终模型。
keykey6.2 个月前
人工智能·机器学习·集成学习
集成学习:从 Bagging 到 XGBoost摘要:前面学的每个算法都有各自的优缺点——线性回归简单但只能拟合线性关系,决策树可解释但容易过拟合,SVM 效果好但调参复杂。集成学习的思路是:不纠结于找"最好的单一算法",而是把多个"弱"模型组合起来,得到一个"强"模型。这就是"三个臭皮匠,顶个诸葛亮"的机器学习版本。这篇文章系统介绍三种集成策略:Bagging(并行)、Boosting(串行)、Stacking(混合),以及它们的代表算法。
FPC_小西2 个月前
人工智能·单片机·嵌入式硬件·集成学习·pcb工艺·hdi高密度互联
LDO 低压差线性稳压器 拆解电源稳压核心原理LDO 全称Low Dropout Regulator(低压差线性稳压器),属于线性电源 IC,核心能力:即便输入、输出电压差值很小,依旧能输出稳定精准的直流电压。常规老式线性稳压器需要输入比输出高 2~3V 才能工作,而 LDO 凭借低导通内阻的输出驱动管,极小压差即可稳压,也是锂电池供电设备首选电源方案(典型应用:3.0V 锂电池降压给 MCU 输出 1.0V 稳定电压)。
xyz_CDragon2 个月前
python·ai编程·集成学习·ollama·deepseek·openclaw
OpenClaw 局域网调用 Ollama 本地大模型:完整配置与踩坑指南OpenClaw 是一个非常好用的 AI 助手平台,但它默认依赖云端 API。用量确实很大,费用真的不便宜,每月至少几百块打底。 而本地模型呢?一次硬件投入,零边际成本。 数据不出门,连隐私问题也一并解决了。
机器学习之心2 个月前
支持向量机·回归·集成学习·stacking
基于Stacking集成学习的回归预测模型:当PLS、SVM、BP、RF遇上BiLSTM本文系统介绍了一种基于Stacking策略的集成学习回归预测方法:以偏最小二乘(PLS)、支持向量机(SVM)、BP神经网络、随机森林(RF)作为基学习器,以双向长短期记忆网络(BiLSTM)作为元学习器,构建两层融合预测架构。实验结果表明,Stacking模型R²达到0.9881,较基学习器平均性能提升14.67%,实现了多模型协同互补、精度显著超越单一模型的预期目标。
老鱼说AI2 个月前
人工智能·深度学习·神经网络·机器学习·学习方法·集成学习·boosting
统计学习方法第八章:BoostingBoosting 就是把简单模型依次串联,每一步都死死盯着上一步的短板(损失函数的负梯度方向),通过加权修正,最终累加出一个极其强大的集成模型。
Honker_yhw2 个月前
人工智能·数据挖掘·集成学习
大数据管理与应用系列丛书《数据挖掘》(吕欣等著)读书笔记-集成学习与 AdaBoost初学集成学习常会卡在 AdaBoost 权重更新、强弱分类器融合等难点,翻阅吕欣老师《数据挖掘》后豁然开朗。书本立足学习者认知规律,先铺垫集成学习基础思想,再循序渐进详解 AdaBoost 推导逻辑,难点分步拆解、辅以通俗说明,避开繁杂冗余内容,无论是课程配套学习,还是自主钻研集成算法,都是可读性很强的工具书。 在线学习开源代码:https://github.com/XL-lab-bigdata/DataMining
子非鱼9212 个月前
决策树·机器学习·集成学习
机器学习之决策树与集成学习决策树是一种模拟人类“分而治之”决策逻辑的树形模型,其核心优势在于直观易懂和解释性强。它通过一系列“如果…那么…”的规则对数据进行分割,最终到达一个结论。
hai3152475432 个月前
数据结构·自然语言处理·硬件工程·动态规划·集成学习
结构化编程:AI工业化编程的探索AI辅助编程并非新鲜事物。GitHub Copilot已在超过两万家企业的代码库中被使用,Amazon CodeWhisperer、Tabnine、Replit Ghostwriter等工具相继涌现。这些工具都聚焦于“代码补全”——根据上下文猜测开发者接下来想写什么,然后生成一行或几行代码建议。