前言:
深度学习常用的开发平台
|------------|
| TensorFlow |
| torch |
| theano |
| caffe |
| DSSTNE |
| mxnet |
| libdnn |
| CNTK |
目录:
1: 深度学习发展历史
2: DeepLearning 工程简介
3: DNN 简介
一 发展历史
![](https://file.jishuzhan.net/article/1737271276189257729/5de20d6fbbeec1d8126a0788b82b29c6.webp)
二 DeepLearning 工程简介
深度学习三大步:
|------------------|
| 定义映射函数(神经网络) |
| 定义损失函数 |
| 通过梯度更新,选择最好的映射函数 |
![](https://file.jishuzhan.net/article/1737271276189257729/d5b162373022ae4bffbf48b2f167225a.webp)
2.1 Neural Network
给定了一个函数,可以设置不同的参数,所以对应为
一个函数集合
![](https://file.jishuzhan.net/article/1737271276189257729/838b799d0898232fb09d60919706d3fa.webp)
![](https://file.jishuzhan.net/article/1737271276189257729/d2bc3920a3f590af85cf858e4d63140f.webp)
![](https://file.jishuzhan.net/article/1737271276189257729/a2e045ad6a72eabce6932781fad248ae.webp)
不同模型在图像识别上面的错误率,
![](https://file.jishuzhan.net/article/1737271276189257729/60f027cc79ffa9d8070b6b0b2e0f1f30.webp)
三 DNN
深度神经网络 (Deep Neural Networks, 以下简称DNN)是深度学习的基础,这里面结合
手写数字的例子简单的介绍一下
3.1 模型
![](https://file.jishuzhan.net/article/1737271276189257729/7b4661384369cc22913795a595c8803f.webp)
可以分为三部分:
输入层,隐藏层,输出层
3.2 损失函数
![](https://file.jishuzhan.net/article/1737271276189257729/72a88fcd7e2a6a77c85eb65333fcae7a.webp)
![](https://file.jishuzhan.net/article/1737271276189257729/b1d51ad111f8a544c6991df21bb5c3cc.webp)
3.3 Graident Descent
通过Backpropagation(反向传播算法)更新梯度,Backpropagation 后面会单独介绍
![](https://file.jishuzhan.net/article/1737271276189257729/c511d171c528f4ddc6ed7163acb55471.webp)
参考: