杭电 神经网络与深度学习 学习笔记

考试范围:

机器学习基础:

绪论

基础网络模型:

前馈神经网络

卷积神经网络

循环神经网络

网络优化与正则化

记忆与注意力机制

无监督学习

模型独立学习方式

1.绪论

神经网络:一种以人工神经元为基本单元的数学网络模型。

深度学习:一类机器学习问题以及解决这类问题的方法。

涉及的知识体系:

人工智能(artificial intelligence):

让机器具有人类的智能。

标志性事件:

1956年的达特茅斯(Dartmouth)会议,标志着人工智能这个学科的诞生。

深度学习与机器学习、人工智能的关系:

人工智能:机器展现的人类智能;

机器学习:计算机利用已有的数据(经验),得出了某种规律,并利用此模型预测未来的一种方法;

深度学习:实现机器学习的一种技术。

人工智能的发展轴:

机器学习的流程:

浅层学习:不涉及特征学习,其特征主要是靠人工经验或特征转换方法来抽取。

什么是好的数据表示?

非常主观,但一个好的表示具有以下几个优点:

极强的表示能力;

使得后续的学习任务变得简单。

特征提取 vs 表示学习:

特征提取:依据先验或任务目标,手动去除无用特征。

表示学习:把"学特征"并入模型,用深度网络自动学习高层语义特征。

深度学习:

通过构建具有一定"深度"的模型,可以让模型来自动学习好的特征表示(从底层特征,到中层特征,再到高层特征),从而最终提升预测的准确性。

人工神经网络示意图:

2.前馈神经网络

相关推荐
灰灰勇闯IT4 分钟前
领域制胜——CANN 领域加速库(ascend-transformer-boost)的场景化优化
人工智能·深度学习·transformer
小白狮ww9 分钟前
要给 OCR 装个脑子吗?DeepSeek-OCR 2 让文档不再只是扫描
人工智能·深度学习·机器学习·ocr·cpu·gpu·deepseek
做人不要太理性17 分钟前
CANN Runtime 运行时组件深度解析:任务下沉执行、异构内存规划与全栈维测诊断机制
人工智能·神经网络·魔珐星云
island131423 分钟前
CANN GE(图引擎)深度解析:计算图优化管线、内存静态规划与异构任务的 Stream 调度机制
开发语言·人工智能·深度学习·神经网络
艾莉丝努力练剑23 分钟前
深度学习视觉任务:如何基于ops-cv定制图像预处理流程
人工智能·深度学习
禁默29 分钟前
大模型推理的“氮气加速系统”:全景解读 Ascend Transformer Boost (ATB)
人工智能·深度学习·transformer·cann
User_芊芊君子30 分钟前
CANN大模型加速核心ops-transformer全面解析:Transformer架构算子的高性能实现与优化
人工智能·深度学习·transformer
YCY^v^40 分钟前
JeecgBoot 项目运行指南
java·学习
云小逸1 小时前
【nmap源码解析】Nmap OS识别核心模块深度解析:osscan2.cc源码剖析(1)
开发语言·网络·学习·nmap
island13141 小时前
CANN ops-nn 算子库深度解析:神经网络核心计算的硬件映射、Tiling 策略与算子融合机制
人工智能·深度学习·神经网络