【神经网络与深度学习(吴恩达)】深度学习概论学习笔记

目录

  • [1. 什么是神经网络?](#1. 什么是神经网络?)
  • [2. 用神经网络进行监督学习](#2. 用神经网络进行监督学习)

1. 什么是神经网络?

"深度学习"指的是训练神经网络。

举个例子,假如现在要让你根据房子的大小预测房子的价格,是不是需要根据上图中已经给的几个点去画一条线去尽量拟合已知的所有样本点,我们简单画一条直线去拟合又会发现直线反向延长以后会进入纵坐标的负半轴,由于price不能为复数,所以我们又使用一个ReLu函数去修正,让price小于零的那部分为0,这样我们就得到了一条大致与样本点拟合的图像,根据这个图像,当我们输入一个size of house值的时候我们就可以大致预测出其对应的price并输出,这样我们就构建了一个最简单的神经网络,上图中的小黑圆圈就可以看作一个小神经元。

接下来我们将单一的神经网络拓展成多维的,当房价price由多个因素共同决定的时候,比如上图中的size、bedrooms、zip code 和 wealth 等因素,而size和bedrooms又会共同决定family size,zip code会决定walk ability,zip code和wealth又会共同决定school quality,最后family size、walk ability和school quality又共同决定price。这就构成了一个稍微比较复杂一点的神经网络。这中间的小圆圈都是一些计算神经元,你需要做的工作就是将size、bedroom等起始结点x进行输入,然后就能得到最后的输入结果y,也就是price,所有中间的过程,它都会自己完成。

这是我们经常在论文中看到的图,承接上一个例子,在这个图中,我们把小圆圈叫做神经网络中的"隐藏单元",其中做的什么运算或者表示什么我们并不知道,通过箭头我们只知道它由前面四个输入共同决定。而且有一点是当在训练神经网络的时候,只要你喂给它足够多的数据(关于x和y的数据),给到足够的x,y的训练样本,神经网络将会更加擅长计算从x到y的精准映射函数。

2. 用神经网络进行监督学习

在监督学习中,输入x,习得一个函数映射到输出y。比如我们之前看到的应用于房价预测的例子,输入房屋的一些特征,就能输出或者预测价格y。这其实也是一种标准神经网络。

神经网络的应用非常广泛,比如:

==CNN(卷积神经网络)==常被用于图像数据处理。

==RNN(循环神经网络)==常被用于一维序列数据例如文本数据的处理。

==HNN(混合神经网络)==常被用于比较复杂的数据的处理(比如汽车雷达所采集的信息)。

下面介绍一下结构性数据和非结构性数据:

结构化数据指的是数据的数据库,例如,在房价预测中,你可能由一个数据库或者数据列,告诉你房间的大小和卧室数量,这就是结构化数据,用我的理解就好像是我们之前学数据库的时候其中的一张张表。

非结构化数据指的是比如音频,图像之类的数据,想要识别图像或者音频中的内容必须将其特征转化成计算机能够理解的方式,比如将一张图像转化为一个矩阵,矩阵中每个元素的值表示图像颜色的深浅,与结构化数据相比,这种数据让计算机理解起来更难。

相关推荐
晚烛21 小时前
CANN 调试工具与性能剖析:从日志分析到 NPU 行为追踪的完整调试体系
开发语言·windows·python·深度学习·缓存
thisbrand1 天前
李辉《曾国藩日记》笔记:放不下对诗的情节
笔记·曾国藩
手写码匠1 天前
深入解析大模型架构之争:全能通用模型 vs 领域专精模型
人工智能·深度学习·算法·aigc
摇滚侠1 天前
Java 零基础全套教程,File 类与 IO 流,笔记 177-178
java·开发语言·笔记
观浩1 天前
使用Obsidian和IDEA搭建个人知识库
经验分享·笔记·学习方法
L、2181 天前
CANN ops-transformer 仓库详解:Transformer 算子的底层实现与性能优化
深度学习·性能优化·transformer
嗝o゚1 天前
昇腾CANN ge 仓的图优化 Pass:哪些 Pass 真正影响推理性能
pytorch·python·深度学习·cann·ge-pass
L、2181 天前
昇腾NPU性能调优Checklist——从“能跑“到“跑得快“的20步
服务器·人工智能·深度学习
玄米乌龙茶1231 天前
LLM成长笔记(十三):系统设计与项目实战
笔记·unity·游戏引擎
碧海银沙音频科技研究院1 天前
恒玄bes2600WM+DSP蓝牙耳机项目
深度学习·语音识别