NLP篇8 自然语言处理 使用注意力模型

在自然语言处理中,注意力模型(Attention Model)被广泛应用以聚焦于输入序列的不同部分。

以基于 Transformer 的自然语言处理模型为例,注意力机制允许模型在处理每个位置时动态地为输入序列的不同位置分配权重,从而捕捉长距离的依赖关系和重要信息。

以下是一个简单的示例,展示如何在 Python 中使用 torch 库实现一个简单的注意力机制:

复制代码
import torch

def scaled_dot_product_attention(q, k, v, d_k):
    # 计算得分
    scores = torch.bmm(q, k.transpose(1, 2)) / torch.sqrt(d_k)
    # 应用 Softmax 进行归一化
    attn_weights = torch.nn.Softmax(dim=-1)(scores)
    # 计算注意力输出
    attn_output = torch.bmm(attn_weights, v)
    return attn_output

# 示例输入
q = torch.randn(1, 5, 16)  # 查询向量
k = torch.randn(5, 5, 16)  # 键向量
v = torch.randn(5, 16, 32)  # 值向量
d_k = 16  # 键的维度

attn_output = scaled_dot_product_attention(q, k, v, d_k)
print(attn_output.shape) 
相关推荐
Csvn1 小时前
同一个问题问 100 遍,钱就扣 100 次?精确缓存让它只扣一次(C02)
人工智能·aigc·agent
罗西的思考2 小时前
【轻量化复刻大模型 / KIMI K3】Multi-Token Prediction(MTP / EAGLE-3)(2)
人工智能·算法·机器学习
罗西的思考2 小时前
【轻量化复刻大模型 / KIMI K3】Multi-Token Prediction(MTP / EAGLE-3)(1)
人工智能·算法·机器学习
汤姆宝库2 小时前
BPE分词器的完整实现:字节对合并与词表构建
开发语言·人工智能·c#
岁月宁静2 小时前
从零拆解 AI 语音模拟面试系统
人工智能·python·agent
武子康3 小时前
H3-World 接入 Game Agent:谁来判断门真的打开了?
人工智能·算法·机器学习
可乐ea3 小时前
MCP 和 CLI 差 42 倍:一次 GitHub 任务的上下文成本实测
人工智能·github·工具调用·ai智能体·openrouter·mcp协议·上下文优化
kyriewen4 小时前
编辑弹窗点了取消,列表里的数据怎么还是变了?
前端·javascript·人工智能
泯泷4 小时前
Multica 真正打动我的,不是更多 Agent,而是一种新的团队协作方式
人工智能·llm·agent
电科_银尘4 小时前
【深度学习项目实战·22】灰度图像着色:用小型U-Net学习从灰度到RGB
人工智能·深度学习·学习