pytorch中的可学习查找表实现之nn.Embedding

假设我们需要一个查找表(Lookup Table),我们可以根据索引数字快速定位查找表中某个具体位置并读取出来。最简单的方法,可以通过一个二维数组或者二维list来实现。但如果我希望查找表的值可以通过梯度反向传播来修改,那么就需要用到nn.Embedding来实现了。

其实,我们需要用反向传播来修正表值的场景还是很多的,比如我们想存储数据的通用特征时,这个通用特征就可以用nn.Embedding来表示,常见于现在的各种codebook的trick。闲话不多说,我们来看栗子:

python 复制代码
import torch
from torch import nn

table = nn.Embedding(10, 3)
print(table.weight)
idx = torch.LongTensor([[1]])
b = table(idx)
print(b)

'''
output
Parameter containing:
tensor([[-0.2317, -0.9679, -1.9324],
        [ 0.2473,  1.1043, -0.7218],
        [ 0.5425, -0.3109, -0.1330],
        [-1.4006, -0.0675,  0.1376],
        [-0.1995,  0.7168,  0.5692],
        [-1.3572, -0.6407, -0.0128],
        [-0.0773,  1.1928, -1.0836],
        [ 0.1721, -0.9232, -0.4059],
        [ 1.6108, -0.4640,  0.3535],
        [ 0.6975,  1.6554, -0.2217]], requires_grad=True)
tensor([[[ 0.2473,  1.1043, -0.7218]]], grad_fn=<EmbeddingBackward0>)
'''

这段代码实际上就实现了一个查找表的功能,索引值为\[1](注意有两个中括弧),返回值为对应的表值。我们还可以批量查找表值:

python 复制代码
import torch
from torch import nn

table = nn.Embedding(10, 3)
print(table)
print(table.weight)

indices = torch.LongTensor([[1,2,4,5],[4,3,2,9]])
print(indices)

out = table(indices)
print(out)
print(out.shape)

通过输入索引张量来获取表值:2,4 -> 2,4,3,请注意这个shape变化,即对应位置的索引获得对应位置的表值。

参考:https://pytorch.org/docs/stable/generated/torch.nn.Embedding.html

本人亲自整理,有问题可留言交流~

相关推荐
LiaoWL1232 天前
NumPy 入门实战(二):向量化与余弦相似度——从 ndarray 到 Embedding
python·numpy·embedding
电科_银尘2 天前
【深度学习项目实战·33】自定义数据集:把自己的图片接入PyTorch
人工智能·pytorch·深度学习
aifannihao3 天前
AI 学习第 14 课:CNN 训 6 轮卡在 0.5352,数据没打乱
pytorch·python·深度学习·cnn·学习路线
聪明的笨猪猪4 天前
企业知识库AI架构选型:落地导向的架构决策与组件清单
经验分享·面试·架构·embedding·数据库架构
2601_967987374 天前
Scikit-Learn 1.8引入Array,支持 PyTorch 与 CuPy 张量的原生 GPU 加速
pytorch·scikit-learn·交叉验证·gpu加速·cupy
盼小辉丶4 天前
PyTorch强化学习实战(35)——多智能体强化学习
人工智能·pytorch·深度学习·强化学习
nice_lcj5205 天前
【从零理解 Spring AI · 14】RAG 的四个环节:加载、切分、向量化、检索
java·spring boot·embedding·向量数据库·rag·spring ai·ai应用开发
一条大祥脚6 天前
深入理解 PyTorch FlexAttention:从 Score Mod 到 Mask Mod 的稀疏加速之道
人工智能·pytorch·python·注意力机制·flex attention·可编程注意力
Yolanda_20226 天前
week4(下)
pytorch
田里的水稻11 天前
FA_CNN卷积神经网络二十七---填充与步幅PyTorch
人工智能·pytorch·cnn