【神经网络与深度学习(吴恩达)】深度学习概论学习笔记

目录

  • [1. 什么是神经网络?](#1. 什么是神经网络?)
  • [2. 用神经网络进行监督学习](#2. 用神经网络进行监督学习)

1. 什么是神经网络?

"深度学习"指的是训练神经网络。

举个例子,假如现在要让你根据房子的大小预测房子的价格,是不是需要根据上图中已经给的几个点去画一条线去尽量拟合已知的所有样本点,我们简单画一条直线去拟合又会发现直线反向延长以后会进入纵坐标的负半轴,由于price不能为复数,所以我们又使用一个ReLu函数去修正,让price小于零的那部分为0,这样我们就得到了一条大致与样本点拟合的图像,根据这个图像,当我们输入一个size of house值的时候我们就可以大致预测出其对应的price并输出,这样我们就构建了一个最简单的神经网络,上图中的小黑圆圈就可以看作一个小神经元。

接下来我们将单一的神经网络拓展成多维的,当房价price由多个因素共同决定的时候,比如上图中的size、bedrooms、zip code 和 wealth 等因素,而size和bedrooms又会共同决定family size,zip code会决定walk ability,zip code和wealth又会共同决定school quality,最后family size、walk ability和school quality又共同决定price。这就构成了一个稍微比较复杂一点的神经网络。这中间的小圆圈都是一些计算神经元,你需要做的工作就是将size、bedroom等起始结点x进行输入,然后就能得到最后的输入结果y,也就是price,所有中间的过程,它都会自己完成。

这是我们经常在论文中看到的图,承接上一个例子,在这个图中,我们把小圆圈叫做神经网络中的"隐藏单元",其中做的什么运算或者表示什么我们并不知道,通过箭头我们只知道它由前面四个输入共同决定。而且有一点是当在训练神经网络的时候,只要你喂给它足够多的数据(关于x和y的数据),给到足够的x,y的训练样本,神经网络将会更加擅长计算从x到y的精准映射函数。

2. 用神经网络进行监督学习

在监督学习中,输入x,习得一个函数映射到输出y。比如我们之前看到的应用于房价预测的例子,输入房屋的一些特征,就能输出或者预测价格y。这其实也是一种标准神经网络。

神经网络的应用非常广泛,比如:

==CNN(卷积神经网络)==常被用于图像数据处理。

==RNN(循环神经网络)==常被用于一维序列数据例如文本数据的处理。

==HNN(混合神经网络)==常被用于比较复杂的数据的处理(比如汽车雷达所采集的信息)。

下面介绍一下结构性数据和非结构性数据:

结构化数据指的是数据的数据库,例如,在房价预测中,你可能由一个数据库或者数据列,告诉你房间的大小和卧室数量,这就是结构化数据,用我的理解就好像是我们之前学数据库的时候其中的一张张表。

非结构化数据指的是比如音频,图像之类的数据,想要识别图像或者音频中的内容必须将其特征转化成计算机能够理解的方式,比如将一张图像转化为一个矩阵,矩阵中每个元素的值表示图像颜色的深浅,与结构化数据相比,这种数据让计算机理解起来更难。

相关推荐
梦醒过后说珍重27 分钟前
炼丹笔记:感知超分辨率模型中复合损失权重的科学调参SOP
深度学习
CoovallyAIHub38 分钟前
Pipecat:构建实时语音 AI Agent 的开源编排框架,500ms 级端到端延迟
深度学习·算法·计算机视觉
CoovallyAIHub1 小时前
Energies | 8版YOLO对8版Transformer实测光伏缺陷检测,RF-DETR-Small综合胜出
深度学习·算法·计算机视觉
中屹指纹浏览器1 小时前
2026指纹浏览器性能瓶颈分析与优化技巧
经验分享·笔记
zh路西法2 小时前
【宇树机器人强化学习】(七):复杂地形的生成与训练
python·深度学习·机器学习·机器人
雷工笔记2 小时前
随笔|走!跳楼去!
笔记
逄逄不是胖胖2 小时前
《动手学深度学习》-69预训练bert数据集实现
人工智能·深度学习·bert
就叫飞六吧2 小时前
国产数据库gbase8s安装-网盘
笔记
CoovallyAIHub3 小时前
2.5GB 塞进浏览器:Mistral 开源实时语音识别,延迟不到半秒
深度学习·算法·计算机视觉
mygugu3 小时前
详细分析swanlab集成mmengine底层实现机制--源码分析
python·深度学习·可视化