第1章,机器学习与深度学习

1、深度学习是什么

深度学习和机器学习的区别(仅个人理解):

(1)深度学习是机器学习的一个子集

(2)深度学习利用多层神经网络从大量数据中进行学习

狭义的机器学习:除去深度学习的机器学习

一般是基于数学,或者统计学的方法,具有很强的可解释性(就是说得通,有道理,令人信服)。

经典的传统机器学习算法:KNN, 决策树,朴素贝叶斯......

KNN: K最近邻居(K-Nearest Neighbors,简称KNN)

一种监督(有标签,比如把人分成北大和清华的)学习算法,用于分类和回归问题。它的基
本思想是通过测量不同数据点之间的距离来进行预测。

KNN的工作原理可以概括为以下几个步骤:

(1)距离度量:KNN使用距离度量(通常是欧氏距离(三维空间))来衡量数据点之间的相似性。

(2)确定邻居数量K
(3)投票机制

决策树

假如没有垃圾关键词的邮件中有垃圾邮件该怎么办?:添加特征

决策树不善于处理未见过的特征

朴素贝叶斯

  • y = c_k:表示"交通方式是飞机(或火车、自行车)"

  • x:表示"到达了 B 地"

机器学习,具有数学上的可解释性,但准确率不是百分百,且不灵活

深度学习

神经网络的任务


常见的神经网络的输入, 一般有三种数据形式。

我们想要的输出(任务类别)一般也有下面几种。

深度学习任务


大家都说深度学习需要数据,为什么?:因为要从数据中找到函数

如何从数据中找到想要的函数?

(1)定义一个函数

(2)计算LOSS

(3)根据LOSS对模型进行优化

Loss的大小就衡量了我们选择的这个函数的好坏。

当w_0处的导数大于0时:往左走

当w_0处的导数小于0时:往右走

至于这一步走多长:

导数越大可能离得越远,那就多走一些。

导数越小可能离得越近,那就少走一些。

超参数:人为规定的参数

学习率不能太大也不能太小:

(1)太大:容易走过头

(2)太小:走太慢

相关推荐
ZzT2 小时前
怎么做才不会被 AI 替代?
人工智能·程序员
道友可好2 小时前
从今天开始:你的第一个 Harness Engineering 实践
前端·人工智能·后端
小姜前线技术3 小时前
AI回答代码块高亮加一键复制
人工智能
洛阳泰山3 小时前
从 0 到 1.6K Star:一个 Java 开源项目的增长复盘
人工智能·后端·开源
米小虾4 小时前
Agent Skill 设计模式完全指南
人工智能·agent
饼干哥哥5 小时前
保姆级教程:用Image2 + Seedance2.0 做长视频,以品牌广告为例
人工智能
米小虾5 小时前
Agent Skill 规范与 Skill-Creator 核心思想
人工智能·agent
ZhengEnCi5 小时前
09e-斯坦福CS336作业四:大规模语言模型训练数据收集与处理
人工智能
oil欧哟6 小时前
Codex 最佳实践(超级长文):先搞懂 AI,再用好 AI
前端·人工智能·后端
甲维斯6 小时前
日本发布比肩Fable5的模型?Fugu Ultra初探!
人工智能·ai编程