神经网络的常用激活函数

激活函数

Sigmoid

曲线图如下:

实现方法:

python 复制代码
import tensorflow as tf
import matplotlib.pyplot as plt
import numpy as np
#定义x的取值范围
x = np.linspace(-10,10,100)
#直接使用tensorflow实现
y = tf.nn.sigmoid(x)
#绘图
plt.plot(x,y)
plt.grid()
plt.show()

Tanh(双曲正切曲线)

实现方法:

python 复制代码
import tensorflow as tf
import matplotlib.pyplot as plt
import numpy as np
#定义x的取值范围
x = np.linspace(-10,10,100)
#直接使用tensorflow实现
y = tf.nn.tanh(x)
#绘图
plt.plot(x,y)
plt.grid()
plt.show()

RELU


实现方法:

python 复制代码
import tensorflow as tf
import matplotlib.pyplot as plt
import numpy as np
#定义x的取值范围
x = np.linspace(-10,10,100)
#直接使用tensorflow实现
y = tf.nn.relu(x)
#绘图
plt.plot(x,y)
plt.grid()
plt.show()

LeakyRelu

实现方法:

python 复制代码
import tensorflow as tf
import matplotlib.pyplot as plt
import numpy as np
#定义x的取值范围
x = np.linspace(-10,10,100)
#直接使用tensorflow实现
y = tf.nn.leaky_relu(x)
#绘图
plt.plot(x,y)
plt.grid()
plt.show()

softmax

实现方法:

python 复制代码
import tensorflow as tf
import matplotlib.pyplot as plt
x = tf.constant([0.2,0.02,0.15,1.3,0.5,0.06,1.1,0.05,3.75])
y = tf.nn.softmax(x)
plt.plot(x,y)
plt.grid()
plt.show()
相关推荐
多看书少吃饭14 分钟前
基于 OpenCV 的眼球识别算法以及青光眼算法识别
人工智能·opencv·计算机视觉
一条数据库29 分钟前
南京方言数据集|300小时高质量自然对话音频|专业录音棚采集|方言语音识别模型训练|情感计算研究|方言保护文化遗产数字化|语音情感识别|方言对话系统开发
人工智能·音视频·语音识别
Yingjun Mo34 分钟前
1. 统计推断-基于神经网络与Langevin扩散的自适应潜变量建模与优化
人工智能·神经网络·算法·机器学习·概率论
DogDaoDao1 小时前
Docker全解析:从核心概念到2025年AI集成新特性
人工智能·docker·eureka·程序员
深耕AI1 小时前
【PyTorch训练】准确率计算(代码片段拆解)
人工智能·pytorch·python
zskj_zhyl1 小时前
七彩喜智慧养老:用科技温暖晚年,让关爱永不掉线
人工智能·科技·机器人
益莱储中国1 小时前
是德科技 | 关于AI 数据中心时代的光通信的精选问答
人工智能·科技
AI小白的Python之路1 小时前
机器学习-集成学习
人工智能·机器学习·集成学习
小和尚同志1 小时前
10k star!各大 AI 应用系统提示词集合
人工智能·开源·aigc