神经网络中的激活函数

目录

一、什么是激活函数:

  • 激活函数是神经网络中的一种函数,它在神经元中起到了非线性映射的作用。
  • 在神经网络的每个神经元中 ,都会通过激活函数将输入信号进行处理,然后输出给下一层神经元。
  • 通俗解释:逻辑回归模型中的Sigmoid函数就是逻辑回归模型的激活函数,通过将输入特征向量x映射到Sigmoid函数的输入z上,将输出g映射到0,1范围内,实现了最终目标:预测结果输出二分类0/1。

二、如何选择激活函数:

每个神经元都可以选择各自的激活函数。

1.Sigmoid激活函数:

  • 当某个神经元所解决的是二分类问题(二分类问题,结果只有两个) 时,建议选择Sigmoid激活函数。
  • 这时该神经元就是一个普通的逻辑回归模型。

2.线性激活函数:

  • 当某个神经元解决的是回归问题(回归问题,结果有无限个),且输出可正可负 时,建议使用线性激活函数。
  • 这时该神经元就是一个普通的线性回归模型。

3.ReLU激活函数:

  • 当某个神经元解决的是回归问题(回归问题,结果有无限个),且输出只能是正数 时,建议使用ReLU激活函数。
  • 这时该神经元就是一个预测结果非负的线性回归模型。
相关推荐
哈尔滨张谦蛋1 分钟前
兰州大学 · 甘肃省可穿戴装备重点实验室 · 2027年博士招生
人工智能·深度学习
MysTic_Zhong13 分钟前
【3】核心引擎:LangGraph 编排与多路召回重排
人工智能·agent
vivo互联网技术15 分钟前
研发数字人 Agent:从 0 到 1 的架构与实践
人工智能·agent·mcp
练习两年半的攻城狮16 分钟前
企业级 AI Agent 架构知识点讲解(一):从知识型到业务型,从 LangGraph 到生产落地
人工智能·架构
Cosolar44 分钟前
从 50ms 到 3 分钟:淘特动线 Agent 如何把 LLM 塞进一个有预算约束的实时系统
人工智能·后端·agent
Cosolar1 小时前
拆开「研发数字人」:一个 Agent 系统真正的护城河,是被结构化的判断力
人工智能·后端·架构
艾莉丝努力练剑1 小时前
【QT】系统相关:TCP的API介绍
开发语言·前端·c++·人工智能·qt·学习·tcp/ip
AI英德西牛仔1 小时前
智谱清言导出word指令失效?PC端深度用户正在用“AI导出鸭”重构内容归档流
人工智能·重构·word·excel·deepseek·ai导出鸭
安心联-车辆监控管理系统2 小时前
以事实为基础,详解车辆主动安全相关功能
大数据·人工智能·安全