【神经网络与深度学习(吴恩达)】深度学习概论学习笔记

目录

  • [1. 什么是神经网络?](#1. 什么是神经网络?)
  • [2. 用神经网络进行监督学习](#2. 用神经网络进行监督学习)

1. 什么是神经网络?

"深度学习"指的是训练神经网络。

举个例子,假如现在要让你根据房子的大小预测房子的价格,是不是需要根据上图中已经给的几个点去画一条线去尽量拟合已知的所有样本点,我们简单画一条直线去拟合又会发现直线反向延长以后会进入纵坐标的负半轴,由于price不能为复数,所以我们又使用一个ReLu函数去修正,让price小于零的那部分为0,这样我们就得到了一条大致与样本点拟合的图像,根据这个图像,当我们输入一个size of house值的时候我们就可以大致预测出其对应的price并输出,这样我们就构建了一个最简单的神经网络,上图中的小黑圆圈就可以看作一个小神经元。

接下来我们将单一的神经网络拓展成多维的,当房价price由多个因素共同决定的时候,比如上图中的size、bedrooms、zip code 和 wealth 等因素,而size和bedrooms又会共同决定family size,zip code会决定walk ability,zip code和wealth又会共同决定school quality,最后family size、walk ability和school quality又共同决定price。这就构成了一个稍微比较复杂一点的神经网络。这中间的小圆圈都是一些计算神经元,你需要做的工作就是将size、bedroom等起始结点x进行输入,然后就能得到最后的输入结果y,也就是price,所有中间的过程,它都会自己完成。

这是我们经常在论文中看到的图,承接上一个例子,在这个图中,我们把小圆圈叫做神经网络中的"隐藏单元",其中做的什么运算或者表示什么我们并不知道,通过箭头我们只知道它由前面四个输入共同决定。而且有一点是当在训练神经网络的时候,只要你喂给它足够多的数据(关于x和y的数据),给到足够的x,y的训练样本,神经网络将会更加擅长计算从x到y的精准映射函数。

2. 用神经网络进行监督学习

在监督学习中,输入x,习得一个函数映射到输出y。比如我们之前看到的应用于房价预测的例子,输入房屋的一些特征,就能输出或者预测价格y。这其实也是一种标准神经网络。

神经网络的应用非常广泛,比如:

==CNN(卷积神经网络)==常被用于图像数据处理。

==RNN(循环神经网络)==常被用于一维序列数据例如文本数据的处理。

==HNN(混合神经网络)==常被用于比较复杂的数据的处理(比如汽车雷达所采集的信息)。

下面介绍一下结构性数据和非结构性数据:

结构化数据指的是数据的数据库,例如,在房价预测中,你可能由一个数据库或者数据列,告诉你房间的大小和卧室数量,这就是结构化数据,用我的理解就好像是我们之前学数据库的时候其中的一张张表。

非结构化数据指的是比如音频,图像之类的数据,想要识别图像或者音频中的内容必须将其特征转化成计算机能够理解的方式,比如将一张图像转化为一个矩阵,矩阵中每个元素的值表示图像颜色的深浅,与结构化数据相比,这种数据让计算机理解起来更难。

相关推荐
优雅的潮叭5 小时前
c++ 学习笔记之 chrono库
c++·笔记·学习
Pyeako5 小时前
深度学习--BP神经网络&梯度下降&损失函数
人工智能·python·深度学习·bp神经网络·损失函数·梯度下降·正则化惩罚
哥布林学者6 小时前
吴恩达深度学习课程五:自然语言处理 第二周:词嵌入(四)分层 softmax 和负采样
深度学习·ai
不大姐姐AI智能体6 小时前
搭了个小红书笔记自动生产线,一句话生成图文,一键发布,支持手机端、电脑端发布
人工智能·经验分享·笔记·矩阵·aigc
浅念-7 小时前
C语言小知识——指针(3)
c语言·开发语言·c++·经验分享·笔记·学习·算法
burning_maple8 小时前
mysql数据库笔记
数据库·笔记·mysql
hkNaruto8 小时前
【AI】AI学习笔记:LangGraph 与 LangChain的关系以及系统性学习路线选择
笔记·学习·langchain
jrlong8 小时前
DataWhale大模型基础与量化微调task3学习笔记(第 5章:深入大模型架构_MoE 架构解析)
笔记·学习
Yeats_Liao8 小时前
开源生态资源:昇腾社区ModelZoo与DeepSeek的最佳实践路径
python·深度学习·神经网络·架构·开源
wdfk_prog10 小时前
[Linux]学习笔记系列 --[drivers][base]map
linux·笔记·学习