神经网络中的激活函数

目录

一、什么是激活函数:

  • 激活函数是神经网络中的一种函数,它在神经元中起到了非线性映射的作用。
  • 在神经网络的每个神经元中 ,都会通过激活函数将输入信号进行处理,然后输出给下一层神经元。
  • 通俗解释:逻辑回归模型中的Sigmoid函数就是逻辑回归模型的激活函数,通过将输入特征向量x映射到Sigmoid函数的输入z上,将输出g映射到[0,1]范围内,实现了最终目标:预测结果输出二分类0/1。

二、如何选择激活函数:

每个神经元都可以选择各自的激活函数。

1.Sigmoid激活函数:

  • 当某个神经元所解决的是二分类问题(二分类问题,结果只有两个) 时,建议选择Sigmoid激活函数。
  • 这时该神经元就是一个普通的逻辑回归模型。

2.线性激活函数:

  • 当某个神经元解决的是回归问题(回归问题,结果有无限个),且输出可正可负 时,建议使用线性激活函数。
  • 这时该神经元就是一个普通的线性回归模型。

3.ReLU激活函数:

  • 当某个神经元解决的是回归问题(回归问题,结果有无限个),且输出只能是正数 时,建议使用ReLU激活函数。
  • 这时该神经元就是一个预测结果非负的线性回归模型。
相关推荐
Dongsheng_20192 分钟前
【汽车篇】AI深度学习在汽车零部件外观检测——连接器X-Ray透视检测
人工智能·深度学习·汽车
没有梦想的咸鱼185-1037-16638 分钟前
SCI论文写作:从实验设计到发表(选题、文献调研、实验设计、数据分析、论文结构及语言规范)
人工智能·信息可视化·数据分析·ai写作
AI新兵14 分钟前
深度学习基础:从原理到实践——第二章神经网络(中)
人工智能·深度学习·神经网络
pearbing21 分钟前
B站排名优化:知识、娱乐、生活类内容的差异化实操策略
人工智能·微信·小程序·生活·娱乐
leijiwen22 分钟前
AI × RWA 本地生活品牌数字资产管理与增长平台
人工智能·web3·区块链
却道天凉_好个秋31 分钟前
卷积神经网络CNN(四):池化技术
人工智能·神经网络·cnn·池化
ARM+FPGA+AI工业主板定制专家44 分钟前
基于Jetson+FPGA+GMSL+AI的自动驾驶数据采集解决方案
人工智能·机器学习·自动驾驶
聊聊MES那点事1 小时前
汽车零部件MES系统实施案例介绍
人工智能·信息可视化·汽车·数据可视化
软件算法开发2 小时前
基于螳螂虾优化的LSTM深度学习网络模型(MShOA-LSTM)的一维时间序列预测算法matlab仿真
深度学习·lstm·一维时间序列预测·螳螂虾优化·mshoa·mshoa-lstm
星期天要睡觉2 小时前
计算机视觉(opencv)——仿射变换(Affine Transformation)
人工智能·opencv·计算机视觉