神经网络中的激活函数

目录

一、什么是激活函数:

  • 激活函数是神经网络中的一种函数,它在神经元中起到了非线性映射的作用。
  • 在神经网络的每个神经元中 ,都会通过激活函数将输入信号进行处理,然后输出给下一层神经元。
  • 通俗解释:逻辑回归模型中的Sigmoid函数就是逻辑回归模型的激活函数,通过将输入特征向量x映射到Sigmoid函数的输入z上,将输出g映射到[0,1]范围内,实现了最终目标:预测结果输出二分类0/1。

二、如何选择激活函数:

每个神经元都可以选择各自的激活函数。

1.Sigmoid激活函数:

  • 当某个神经元所解决的是二分类问题(二分类问题,结果只有两个) 时,建议选择Sigmoid激活函数。
  • 这时该神经元就是一个普通的逻辑回归模型。

2.线性激活函数:

  • 当某个神经元解决的是回归问题(回归问题,结果有无限个),且输出可正可负 时,建议使用线性激活函数。
  • 这时该神经元就是一个普通的线性回归模型。

3.ReLU激活函数:

  • 当某个神经元解决的是回归问题(回归问题,结果有无限个),且输出只能是正数 时,建议使用ReLU激活函数。
  • 这时该神经元就是一个预测结果非负的线性回归模型。
相关推荐
charley.layabox1 小时前
8月1日ChinaJoy酒会 | 游戏出海高端私享局 | 平台 × 发行 × 投资 × 研发精英畅饮畅聊
人工智能·游戏
DFRobot智位机器人2 小时前
AIOT开发选型:行空板 K10 与 M10 适用场景与选型深度解析
人工智能
想成为风筝4 小时前
从零开始学习深度学习—水果分类之PyQt5App
人工智能·深度学习·计算机视觉·pyqt
F_D_Z4 小时前
MMaDA:多模态大型扩散语言模型
人工智能·语言模型·自然语言处理
大知闲闲哟4 小时前
深度学习G2周:人脸图像生成(DCGAN)
人工智能·深度学习
飞哥数智坊4 小时前
Coze实战第15讲:钱都去哪儿了?Coze+飞书搭建自动记账系统
人工智能·coze
wenzhangli74 小时前
低代码引擎核心技术:OneCode常用动作事件速查手册及注解驱动开发详解
人工智能·低代码·云原生
潘达斯奈基~5 小时前
大模型的Temperature、Top-P、Top-K、Greedy Search、Beem Search
人工智能·aigc
倔强青铜三5 小时前
苦练Python第18天:Python异常处理锦囊
人工智能·python·面试
倔强青铜三6 小时前
苦练Python第17天:你必须掌握的Python内置函数
人工智能·python·面试