机器学习算法实现(基于numpy)

《机器学习公式推导与代码实现》学习笔记,记录一下自己的学习过程,详细的内容请大家购买作者的书籍查阅。

这篇博客是将笔者边学边刷《机器学习公式推导与代码实现》的模型跟代码记录下来,部分地方结合自己的思考对原作者的代码有一定的改动,这些博客主要是动手去实现一些模型,感受机器学习各个模型能解决的问题以及收敛后的效果,所以对相关理论没有过于深入。

一.监督学习模型

chapter3-对数几率回归

logistic算法(对数几率回归)numpy实现

chapter4-LASSO回归与Ridge回归

numpy实现lasso回归和ridge回归

chapter5-线性判别分析LDA

线性判别分析LDA推导及手动实现

chapter6-k近邻算法

k近邻算法numpy实现

chapter7决策树

机器学习决策树公式推导和实现:ID3、CART

二.监督学习集成模型

chapter10-AdaBoost

基于numpy和sklearn实现集成学习Boosting算法AdaBoost

chapter11-GBDT

手动实现GBDT分类树和GBRT回归树

chapter12-XGBoost

XGBoost分类树numpy实现

chapter13-LightGBM

LightGBM简介和示例

chapter14-CatBoost

CatBoost简单介绍以及原生库使用示例

chapter15-随机森林

随机森林numpy实现

chapter16-集成学习对比与调参

三大集成学习模型XGBoost、LightGBM和CatBoost的对比与调参

三.无监督学习模型

chapter17-kmeans

kmeans手动实现

chapter18-主成分分析PCA

主成分分析法PCA的numpy实现

chapter19-奇异值分解SVD

奇异值分解svd和图像压缩的numpy实现

四.概率模型

chapter21-贝叶斯概率模型

朴素贝叶斯和贝叶斯网络的推导与实现

chapter22-EM算法

EM算法简介、numpy编程EM算法实现三硬币问题

未完待续!机器学习博大精深,欢迎大家一起讨论!

Github笔记本

相关推荐
吴佳浩1 小时前
我把 HAMi 摆回一台双卡机器上跑了一遍:GPU 编排的性能账,到底记在谁头上
人工智能·gpu
岁月宁静4 小时前
五、《从零手撸 Agent》 — 什么是 Agent:从“会聊天”到“会做事”,差的就是一个循环
python·agent
梯度下降者4 小时前
Python - 函数
python·高阶函数·可调用对象·functools·嵌套作用域
forest_095 小时前
《AI 编程 Harness 实战手册》04|审批这道门:点了一百次“允许”,还剩多少作用?
人工智能·算法·prompt·agi
H.莓飛5 小时前
【C++】【STL】stack_OJ题
服务器·c语言·开发语言·数据结构·c++·算法·visual studio
火山引擎开发者社区6 小时前
当 RPA 遇上 Agent:MUA 混合执行 Workflow 深度拆解
人工智能
严肃小白兔6 小时前
第 10/24 期:深度神经网络的自动求导机制与梯度验证
人工智能·神经网络·dnn
火山引擎开发者社区6 小时前
定档12.16-12.18!FORCE原动力大会上海见!
人工智能
starzy19906 小时前
深入理解Scala隐式参数:上下文流转
开发语言·python·scala