【神经网络与深度学习(吴恩达)】深度学习概论学习笔记

目录

  • [1. 什么是神经网络?](#1. 什么是神经网络?)
  • [2. 用神经网络进行监督学习](#2. 用神经网络进行监督学习)

1. 什么是神经网络?

"深度学习"指的是训练神经网络。

举个例子,假如现在要让你根据房子的大小预测房子的价格,是不是需要根据上图中已经给的几个点去画一条线去尽量拟合已知的所有样本点,我们简单画一条直线去拟合又会发现直线反向延长以后会进入纵坐标的负半轴,由于price不能为复数,所以我们又使用一个ReLu函数去修正,让price小于零的那部分为0,这样我们就得到了一条大致与样本点拟合的图像,根据这个图像,当我们输入一个size of house值的时候我们就可以大致预测出其对应的price并输出,这样我们就构建了一个最简单的神经网络,上图中的小黑圆圈就可以看作一个小神经元。

接下来我们将单一的神经网络拓展成多维的,当房价price由多个因素共同决定的时候,比如上图中的size、bedrooms、zip code 和 wealth 等因素,而size和bedrooms又会共同决定family size,zip code会决定walk ability,zip code和wealth又会共同决定school quality,最后family size、walk ability和school quality又共同决定price。这就构成了一个稍微比较复杂一点的神经网络。这中间的小圆圈都是一些计算神经元,你需要做的工作就是将size、bedroom等起始结点x进行输入,然后就能得到最后的输入结果y,也就是price,所有中间的过程,它都会自己完成。

这是我们经常在论文中看到的图,承接上一个例子,在这个图中,我们把小圆圈叫做神经网络中的"隐藏单元",其中做的什么运算或者表示什么我们并不知道,通过箭头我们只知道它由前面四个输入共同决定。而且有一点是当在训练神经网络的时候,只要你喂给它足够多的数据(关于x和y的数据),给到足够的x,y的训练样本,神经网络将会更加擅长计算从x到y的精准映射函数。

2. 用神经网络进行监督学习

在监督学习中,输入x,习得一个函数映射到输出y。比如我们之前看到的应用于房价预测的例子,输入房屋的一些特征,就能输出或者预测价格y。这其实也是一种标准神经网络。

神经网络的应用非常广泛,比如:

==CNN(卷积神经网络)==常被用于图像数据处理。

==RNN(循环神经网络)==常被用于一维序列数据例如文本数据的处理。

==HNN(混合神经网络)==常被用于比较复杂的数据的处理(比如汽车雷达所采集的信息)。

下面介绍一下结构性数据和非结构性数据:

结构化数据指的是数据的数据库,例如,在房价预测中,你可能由一个数据库或者数据列,告诉你房间的大小和卧室数量,这就是结构化数据,用我的理解就好像是我们之前学数据库的时候其中的一张张表。

非结构化数据指的是比如音频,图像之类的数据,想要识别图像或者音频中的内容必须将其特征转化成计算机能够理解的方式,比如将一张图像转化为一个矩阵,矩阵中每个元素的值表示图像颜色的深浅,与结构化数据相比,这种数据让计算机理解起来更难。

相关推荐
算法狗24 小时前
大模型面试题:混合精度训练的缺点是什么
人工智能·深度学习·机器学习·语言模型
熊文豪4 小时前
从零开始:基于CANN ops-transformer的自定义算子开发指南
人工智能·深度学习·transformer·cann
云边有个稻草人4 小时前
基于CANN ops-nn的AIGC神经网络算子优化与落地实践
人工智能·神经网络·aigc
chian-ocean4 小时前
视觉新范式:基于 `ops-transformer` 的 Vision Transformer 高效部署
人工智能·深度学习·transformer
程序猿追4 小时前
深度解读 CANN HCCL:揭秘昇腾高性能集体通信的同步机制
神经网络·架构
User_芊芊君子5 小时前
CANN数学计算基石ops-math深度解析:高性能科学计算与AI模型加速的核心引擎
人工智能·深度学习·神经网络·ai
摘星编程5 小时前
CANN ops-nn Pooling算子解读:CNN模型下采样与特征提取的核心
人工智能·神经网络·cnn
程序员清洒6 小时前
CANN模型安全:从对抗防御到隐私保护的全栈安全实战
人工智能·深度学习·安全
island13146 小时前
CANN ops-nn 算子库深度解析:神经网络计算引擎的底层架构、硬件映射与融合优化机制
人工智能·神经网络·架构
程序猿追6 小时前
深度解析CANN ops-nn仓库 神经网络算子的性能优化与实践
人工智能·神经网络·性能优化