【神经网络与深度学习(吴恩达)】深度学习概论学习笔记

目录

  • [1. 什么是神经网络?](#1. 什么是神经网络?)
  • [2. 用神经网络进行监督学习](#2. 用神经网络进行监督学习)

1. 什么是神经网络?

"深度学习"指的是训练神经网络。

举个例子,假如现在要让你根据房子的大小预测房子的价格,是不是需要根据上图中已经给的几个点去画一条线去尽量拟合已知的所有样本点,我们简单画一条直线去拟合又会发现直线反向延长以后会进入纵坐标的负半轴,由于price不能为复数,所以我们又使用一个ReLu函数去修正,让price小于零的那部分为0,这样我们就得到了一条大致与样本点拟合的图像,根据这个图像,当我们输入一个size of house值的时候我们就可以大致预测出其对应的price并输出,这样我们就构建了一个最简单的神经网络,上图中的小黑圆圈就可以看作一个小神经元。

接下来我们将单一的神经网络拓展成多维的,当房价price由多个因素共同决定的时候,比如上图中的size、bedrooms、zip code 和 wealth 等因素,而size和bedrooms又会共同决定family size,zip code会决定walk ability,zip code和wealth又会共同决定school quality,最后family size、walk ability和school quality又共同决定price。这就构成了一个稍微比较复杂一点的神经网络。这中间的小圆圈都是一些计算神经元,你需要做的工作就是将size、bedroom等起始结点x进行输入,然后就能得到最后的输入结果y,也就是price,所有中间的过程,它都会自己完成。

这是我们经常在论文中看到的图,承接上一个例子,在这个图中,我们把小圆圈叫做神经网络中的"隐藏单元",其中做的什么运算或者表示什么我们并不知道,通过箭头我们只知道它由前面四个输入共同决定。而且有一点是当在训练神经网络的时候,只要你喂给它足够多的数据(关于x和y的数据),给到足够的x,y的训练样本,神经网络将会更加擅长计算从x到y的精准映射函数。

2. 用神经网络进行监督学习

在监督学习中,输入x,习得一个函数映射到输出y。比如我们之前看到的应用于房价预测的例子,输入房屋的一些特征,就能输出或者预测价格y。这其实也是一种标准神经网络。

神经网络的应用非常广泛,比如:

==CNN(卷积神经网络)==常被用于图像数据处理。

==RNN(循环神经网络)==常被用于一维序列数据例如文本数据的处理。

==HNN(混合神经网络)==常被用于比较复杂的数据的处理(比如汽车雷达所采集的信息)。

下面介绍一下结构性数据和非结构性数据:

结构化数据指的是数据的数据库,例如,在房价预测中,你可能由一个数据库或者数据列,告诉你房间的大小和卧室数量,这就是结构化数据,用我的理解就好像是我们之前学数据库的时候其中的一张张表。

非结构化数据指的是比如音频,图像之类的数据,想要识别图像或者音频中的内容必须将其特征转化成计算机能够理解的方式,比如将一张图像转化为一个矩阵,矩阵中每个元素的值表示图像颜色的深浅,与结构化数据相比,这种数据让计算机理解起来更难。

相关推荐
拜小白15 分钟前
【论文解读】DMH-Net:用深度曼哈顿霍夫变换从全景立方图估计3D房间布局
深度学习·计算机视觉·全景图
ViperL13 小时前
[智能计算]AutoDiffusion-基于进化NAS的扩散模型
人工智能·深度学习·计算机视觉
薛定e的猫咪4 小时前
(ICLR 2020)MAML 靠的不是快速学习,而是特征复用
人工智能·深度学习·学习·算法·机器学习
薛定e的猫咪5 小时前
(ICLR 2026)DF-META:面向 FJSP 的无导数元学习实例自适应调度
人工智能·深度学习·学习·算法·机器学习
tellmewhoisi5 小时前
深度学习1:基本概念,感知机,激活函数(阶跃,sigmoid,Tanh函数)
人工智能·深度学习
果壳science6 小时前
张祥前实验如何获取正电荷
笔记·科技·嵌入式硬件·硬件工程·制造
云舜言传6 小时前
Bloom 手势演示操作 · 录屏指南
javascript·深度学习·机器学习
大叔学Linux7 小时前
FreeRTOS任务切换笔记
arm开发·笔记
jay神8 小时前
基于 YOLOv8 与 Faster R-CNN 的盲道障碍检测系统
人工智能·深度学习·yolo·计算机视觉·cnn·课程设计·计算机毕业设计
打不了嗝 ᥬ᭄8 小时前
Swin Transformer 详解:窗口注意力如何成为新一代视觉 backbone
深度学习·计算机视觉·自注意力机制·swintransformer