NLP篇8 自然语言处理 使用注意力模型

在自然语言处理中,注意力模型(Attention Model)被广泛应用以聚焦于输入序列的不同部分。

以基于 Transformer 的自然语言处理模型为例,注意力机制允许模型在处理每个位置时动态地为输入序列的不同位置分配权重,从而捕捉长距离的依赖关系和重要信息。

以下是一个简单的示例,展示如何在 Python 中使用 torch 库实现一个简单的注意力机制:

复制代码
import torch

def scaled_dot_product_attention(q, k, v, d_k):
    # 计算得分
    scores = torch.bmm(q, k.transpose(1, 2)) / torch.sqrt(d_k)
    # 应用 Softmax 进行归一化
    attn_weights = torch.nn.Softmax(dim=-1)(scores)
    # 计算注意力输出
    attn_output = torch.bmm(attn_weights, v)
    return attn_output

# 示例输入
q = torch.randn(1, 5, 16)  # 查询向量
k = torch.randn(5, 5, 16)  # 键向量
v = torch.randn(5, 16, 32)  # 值向量
d_k = 16  # 键的维度

attn_output = scaled_dot_product_attention(q, k, v, d_k)
print(attn_output.shape) 
相关推荐
xsd20241118几秒前
把模型从 FP32 压到 INT8:PTQ、QAT 与 PyTorch 量化全链路
人工智能
AI源码1 分钟前
基于机器学习的优衣库销售预测与决策系统
人工智能·机器学习
可夫小子18 分钟前
13 条数据跑出 65.87 分:这场 48 小时真机挑战赛,拆穿了具身智能的落地真相
人工智能
大模型真好玩1 小时前
做好真人分身却不知道拍什么?8个视频应用场景直接抄
人工智能·agent·deepseek
ZhengEnCi1 小时前
黄仁勋想回英伟达却被拒:创始人 CEO 辞职后为什么回不来,董事会继任机制全拆解
人工智能·nvidia·团队管理
真上帝的左手1 小时前
26. AI-大语言模型-基础
人工智能·ai·架构·llm·大语言模型
墨林陌2 小时前
AI 热点日报(2026-11-18):OpenAI 发布 GPT-6.2,APEC 峰会聚焦 AI,AI 制药融资创新高
人工智能
byte轻骑兵2 小时前
【ATT】规范精讲[8]:配置要确认、灌包要速度、多字段要原子——BLE 写入的四重选择
人工智能·aiot·l2cap·嵌入式蓝牙·蓝牙链路管理
AAA修煤气灶刘哥2 小时前
Agent 都能干活了,软件还需要那么多按钮吗?
人工智能·后端·架构
Purple Coder3 小时前
开题报告学习
人工智能