第一章 深度学习发展概述

一、学习目标

1.了解深度学习的发展历程

2.认识深度学习的基本概念和算法

3.学习深度学习的主要应用

二、深度学习的发展

发展一图:

其中,最主要的节点为:

M-P模型:其模拟了一个神经元的工作过程;

Hopfield模型:最初的卷积神经网络;

反向传播算法:解决了线性不可分问题,使得模型能够收敛。

RNN和LSTM:NLP上的两大重要模型。

Transformer:提出注意力机制,相当于在RNN类的模型中加入了卷积因素,为大模型提供了基础。

ChatGPT:现象级的语言大模型。

三、深度学习基本概念

1.三者概念

人工智能是指所有的人工技术制造出来的智能体。

机器学习是其中一种实现的技术,其特点在于让机器从数据中寻找规律和特征,然后使用规律对未知数据进行预测。

深度学习则是机器学习中的一种方法,其特点在于模拟人的神经结构设计了神经网络来进行学习。

2.经典算法与网络

四、应用

主要的应用有:视觉类、语音类、语言类、多模态。

1.视觉类

基础任务:

高级任务:

2.语音类
3.语言类

4.多模态类

五、总结

了解深度学习的历史、著名算法结构、应用。

相关推荐
丝瓜蛋汤41 分钟前
NCE(noise contrastive estimation)loss噪声对比估计损失和InfoNCE loss
人工智能
DeepVis Research43 分钟前
【AGI Safety/Robotics】2026年度 AGI 对抗性强化学习与软体机器人控制基准索引 (Skynet/Legion Core)
人工智能·网络安全·机器人·数据集·强化学习
Tipriest_7 小时前
torch训练出的模型的组成以及模型训练后的使用和分析办法
人工智能·深度学习·torch·utils
QuiteCoder7 小时前
深度学习的范式演进、架构前沿与通用人工智能之路
人工智能·深度学习
周名彥7 小时前
### 天脑体系V∞·13824D完全体终极架构与全域落地研究报告 (生物计算与隐私计算融合版)
人工智能·神经网络·去中心化·量子计算·agi
MoonBit月兔7 小时前
年终 Meetup:走进腾讯|AI 原生编程与 Code Agent 实战交流会
大数据·开发语言·人工智能·腾讯云·moonbit
大模型任我行8 小时前
人大:熵引导的LLM有限数据训练
人工智能·语言模型·自然语言处理·论文笔记
weixin_468466858 小时前
YOLOv13结合代码原理详细解析及模型安装与使用
人工智能·深度学习·yolo·计算机视觉·图像识别·目标识别·yolov13
蹦蹦跳跳真可爱5898 小时前
Python----大模型(GPT-2模型训练加速,训练策略)
人工智能·pytorch·python·gpt·embedding
xwill*8 小时前
π∗0.6: a VLA That Learns From Experience
人工智能·pytorch·python