nn.functional.softmax(X, dim=-1)

dim=-1表示在最后一个维度(大概率是一行)应用Softmax函数,将值标准化为概率分布。

实例

假设我们有一个张量X,形状为(2,3),内容如下:

复制代码
import torch  
import torch.nn.functional as F  

X = torch.tensor([[1.0, 2.0, 3.0],  
                  [1.0, 2.0, 3.0]])  

# 计算 Softmax  
softmax_result = F.softmax(X, dim=-1)  
print(softmax_result)

输出:

复制代码
tensor([[0.0900, 0.2447, 0.6652],  
        [0.0900, 0.2447, 0.6652]])

可以看到,每一行的输出值加起来为 1,这表示已经进行了Softmax操作。

相关推荐
承渊政道14 小时前
【从零开始大模型开发与微调:基于PyTorch与ChatGLM】(实战训练自己的ChatGPT从续写模型到对齐助手:RLHF、奖励模型与PPO精读)
人工智能·pytorch·chatgpt·预训练·rlhf·大模型微调
June bug14 小时前
【HCIA- AI(正课)】2.4 循环神经网络
人工智能·rnn·深度学习
YOLO数据集集合14 小时前
红外热成像人员检测数据集 |红外检测 白热模式 人员检测 夜间监控 目标检测 YOLO格式 深度学习数据集 计算机视觉9067期
数据库·深度学习·yolo·目标检测·计算机视觉·红外人员·红外数据
李帅朋1 天前
微分基本定义笔记
人工智能·笔记·深度学习·神经网络
ai小陈1 天前
LoRA微调显存怎么估?32GB GPU训练配置与常见问题排查
人工智能·深度学习·机器学习·ai·gpu算力
2601_962297481 天前
AI 自动编码将上线,谷歌 Colab 推出 Github Copilot 竞品
深度学习·代码生成·githubcopilot·ai编码·谷歌colab
政企项目老覃1 天前
大模型幻觉治理与自动评测:金融风控场景的落地实践
人工智能·算法·机器学习
SuperHeroWu71 天前
【HarmonyOS AI】 通用文字识别详解
人工智能·pytorch·深度学习·通用文字识别
deepdata_cn1 天前
元学习、迁移学习、小样本学习的区别
深度学习·迁移学习