神经网络中的激活函数

目录

一、什么是激活函数:

  • 激活函数是神经网络中的一种函数,它在神经元中起到了非线性映射的作用。
  • 在神经网络的每个神经元中 ,都会通过激活函数将输入信号进行处理,然后输出给下一层神经元。
  • 通俗解释:逻辑回归模型中的Sigmoid函数就是逻辑回归模型的激活函数,通过将输入特征向量x映射到Sigmoid函数的输入z上,将输出g映射到[0,1]范围内,实现了最终目标:预测结果输出二分类0/1。

二、如何选择激活函数:

每个神经元都可以选择各自的激活函数。

1.Sigmoid激活函数:

  • 当某个神经元所解决的是二分类问题(二分类问题,结果只有两个) 时,建议选择Sigmoid激活函数。
  • 这时该神经元就是一个普通的逻辑回归模型。

2.线性激活函数:

  • 当某个神经元解决的是回归问题(回归问题,结果有无限个),且输出可正可负 时,建议使用线性激活函数。
  • 这时该神经元就是一个普通的线性回归模型。

3.ReLU激活函数:

  • 当某个神经元解决的是回归问题(回归问题,结果有无限个),且输出只能是正数 时,建议使用ReLU激活函数。
  • 这时该神经元就是一个预测结果非负的线性回归模型。
相关推荐
WWZZ20255 分钟前
快速上手大模型:深度学习2(实践:深度学习基础、线性回归)
人工智能·深度学习·算法·计算机视觉·机器人·大模型·slam
初级炼丹师(爱说实话版)11 分钟前
算法面经常考题整理(1)机器学习
人工智能·算法·机器学习
FIT2CLOUD飞致云21 分钟前
支持添加外部面板、支持设置水印,1Panel v2.0.12版本正式发布
人工智能·开源
算家计算30 分钟前
推理成本吞噬AI未来,云计算如何平衡速度与成本的难题?
人工智能·云计算·gpu
kalvin_y_liu1 小时前
Lumi 具神智能机器人 SDK说明和ACT算法中的学习与推理
人工智能·ai·ros
阿里云大数据AI技术1 小时前
云栖实录 | 阿里云助力金山办公打造智能搜索新标杆:WPS云文档搜索技术全面升级
人工智能·elasticsearch·搜索引擎
koo3641 小时前
李宏毅机器学习笔记33
人工智能·笔记·机器学习
无风听海1 小时前
神经网络之密集的词向量如何能够代表稀疏的词向量
人工智能·神经网络·机器学习
文火冰糖的硅基工坊1 小时前
[人工智能-大模型-74]:模型层技术 - 模型训练六大步:③神经网络,预测输出:基本功能与对应的基本组成函数
人工智能·深度学习·神经网络
mwq301231 小时前
RLHF-奖励模型RM 的“引擎”:Pairwise Loss 梯度计算详解
人工智能