杭电 神经网络与深度学习 学习笔记

考试范围:

机器学习基础:

绪论

基础网络模型:

前馈神经网络

卷积神经网络

循环神经网络

网络优化与正则化

记忆与注意力机制

无监督学习

模型独立学习方式

1.绪论

神经网络:一种以人工神经元为基本单元的数学网络模型。

深度学习:一类机器学习问题以及解决这类问题的方法。

涉及的知识体系:

人工智能(artificial intelligence):

让机器具有人类的智能。

标志性事件:

1956年的达特茅斯(Dartmouth)会议,标志着人工智能这个学科的诞生。

深度学习与机器学习、人工智能的关系:

人工智能:机器展现的人类智能;

机器学习:计算机利用已有的数据(经验),得出了某种规律,并利用此模型预测未来的一种方法;

深度学习:实现机器学习的一种技术。

人工智能的发展轴:

机器学习的流程:

浅层学习:不涉及特征学习,其特征主要是靠人工经验或特征转换方法来抽取。

什么是好的数据表示?

非常主观,但一个好的表示具有以下几个优点:

极强的表示能力;

使得后续的学习任务变得简单。

特征提取 vs 表示学习:

特征提取:依据先验或任务目标,手动去除无用特征。

表示学习:把"学特征"并入模型,用深度网络自动学习高层语义特征。

深度学习:

通过构建具有一定"深度"的模型,可以让模型来自动学习好的特征表示(从底层特征,到中层特征,再到高层特征),从而最终提升预测的准确性。

人工神经网络示意图:

2.前馈神经网络

相关推荐
胡桃不是夹子20 分钟前
torch和torchvision对应版本匹配官网下载
人工智能·python·深度学习
lingggggaaaa40 分钟前
小迪安全v2023学习笔记(一百四十五讲)—— Webshell篇&魔改冰蝎&打乱特征指纹&新增加密协议&过后门查杀&过流量识别
笔记·学习·安全·魔改冰蝎·免杀对抗·免杀技术
这张生成的图像能检测吗1 小时前
(论文速读)视觉语言模型的无遗忘学习
人工智能·深度学习·计算机视觉·clip·持续学习·灾难性遗忘
Q_Q19632884751 小时前
python+django/flask基于深度学习的个性化携程美食数据推荐系统
spring boot·python·深度学习·django·flask·node.js·php
落羽的落羽1 小时前
【C++】现代C++的新特性constexpr,及其在C++14、C++17、C++20中的进化
linux·c++·人工智能·学习·机器学习·c++20·c++40周年
小苏兮1 小时前
【把Linux“聊”明白】编译器gcc/g++与调试器gdb/cgdb:从编译原理到高效调试
java·linux·运维·学习·1024程序员节
嵌入式-老费2 小时前
自己动手写深度学习框架(神经网络的引入)
人工智能·深度学习·神经网络
无风听海2 小时前
神经网络之向量空间的正交坐标系的数量
人工智能·深度学习·神经网络
im_AMBER2 小时前
React 11 登录页项目框架搭建
前端·学习·react.js·前端框架
盼小辉丶2 小时前
语义分割详解与实现
深度学习·计算机视觉·keras