第1章,机器学习与深度学习

1、深度学习是什么

深度学习和机器学习的区别(仅个人理解):

(1)深度学习是机器学习的一个子集

(2)深度学习利用多层神经网络从大量数据中进行学习

狭义的机器学习:除去深度学习的机器学习

一般是基于数学,或者统计学的方法,具有很强的可解释性(就是说得通,有道理,令人信服)。

经典的传统机器学习算法:KNN, 决策树,朴素贝叶斯......

KNN: K最近邻居(K-Nearest Neighbors,简称KNN)

一种监督(有标签,比如把人分成北大和清华的)学习算法,用于分类和回归问题。它的基
本思想是通过测量不同数据点之间的距离来进行预测。

KNN的工作原理可以概括为以下几个步骤:

(1)距离度量:KNN使用距离度量(通常是欧氏距离(三维空间))来衡量数据点之间的相似性。

(2)确定邻居数量K
(3)投票机制

决策树

假如没有垃圾关键词的邮件中有垃圾邮件该怎么办?:添加特征

决策树不善于处理未见过的特征

朴素贝叶斯

  • y = c_k:表示"交通方式是飞机(或火车、自行车)"

  • x:表示"到达了 B 地"

机器学习,具有数学上的可解释性,但准确率不是百分百,且不灵活

深度学习

神经网络的任务


常见的神经网络的输入, 一般有三种数据形式。

我们想要的输出(任务类别)一般也有下面几种。

深度学习任务


大家都说深度学习需要数据,为什么?:因为要从数据中找到函数

如何从数据中找到想要的函数?

(1)定义一个函数

(2)计算LOSS

(3)根据LOSS对模型进行优化

Loss的大小就衡量了我们选择的这个函数的好坏。

当w_0处的导数大于0时:往左走

当w_0处的导数小于0时:往右走

至于这一步走多长:

导数越大可能离得越远,那就多走一些。

导数越小可能离得越近,那就少走一些。

超参数:人为规定的参数

学习率不能太大也不能太小:

(1)太大:容易走过头

(2)太小:走太慢

相关推荐
kalvin_y_liu2 小时前
RAG 应用的经典架构与流程
人工智能·rag
云服务器租用费用2 小时前
2026年零基础部署OpenClaw(前身为Clawdbot)+接入微信保姆级教程
服务器·人工智能·云原生·飞书·京东云
过期的秋刀鱼!2 小时前
深度学习-神经网络层
人工智能·深度学习·神经网络
向哆哆2 小时前
金属材料表面六种缺陷类型数据集:工业视觉检测的优质训练资源
人工智能·计算机视觉·视觉检测
Suryxin.2 小时前
从0开始复现nano-vllm「model_runner.py」上半篇之初始化分布式推理环境
人工智能·python·深度学习·机器学习·vllm
春日见2 小时前
commit与fetch
linux·人工智能·算法·机器学习·自动驾驶
周周爱喝粥呀2 小时前
机器学习中的自监督学习和无监督学习的区别是什么?
人工智能·机器学习
小趴菜不能喝2 小时前
AI大模型中的MCP和Skills
人工智能
菩提树下的凡夫2 小时前
跟踪转台最大跟踪速度和跟踪加速度求解
人工智能·机器学习