# AI的NLP学习/embedding/tensorboard



import torch

import torch.nn as nn

from torch.utils.tensorboard import SummaryWriter

import jieba

import os

import shutil

===================== 加载自定义词表,确保人名完整分词 =====================

jieba_tokenizer = jieba.Tokenizer()

custom_words = "龙文浩", "张三", "李四", "王五", "工程师", "学生", "教师", "医生"

for word in custom_words:

jieba_tokenizer.add_word(word)

构建语料 + 词表

def build_vocab():

texts = [

"龙文浩是工程师",

"张三是学生",

"李四是教师",

"王五是医生"

]

words = \[\]

for text in texts:

words += jieba_tokenizer.lcut(text)

vocab = sorted(list(set(words)))

word2idx = {w: i for i, w in enumerate(vocab)}

print("词表:", word2idx)

return vocab, word2idx

===================== 构建简单 Embedding 模型 =====================

class EmbeddingModel(nn.Module):

def init (self, vocab_size, embed_dim=10):

super().init ()

self.embedding = nn.Embedding(vocab_size, embed_dim)

def forward(self, x):

return self.embedding(x)

===================== 主函数:训练 + TensorBoard 可视化 =====================

if name == 'main ':

vocab, word2idx = build_vocab()

vocab_size = len(vocab)

复制代码
model = EmbeddingModel(vocab_size, embed_dim=10)
word_indices = torch.tensor(list(word2idx.values()), dtype=torch.long)

with torch.no_grad():
    embeddings = model.embedding(word_indices)

# ===================== 设置根目录 =====================
# 统一使用绝对路径,避免相对路径歧义
log_dir = os.path.abspath(r"runs\embedding_visual")
# 强制清空旧日志,避免缓存/编码问题
if os.path.exists(log_dir):
    shutil.rmtree(log_dir)
os.makedirs(log_dir, exist_ok=True)

# ===================== 写入TensorBoard(简化目录,消除嵌套) =====================
writer = SummaryWriter(log_dir)
# 移除tag参数,避免生成嵌套目录;不指定global_step,简化目录结构
writer.add_embedding(
    mat=embeddings,
    metadata=vocab
)
writer.close()

print("\n✅ TensorBoard 文件已保存到", log_dir)
print("🚀 启动命令(复制直接执行,PowerShell/CMD通用):")
print(f"tensorboard --logdir={log_dir} --host=127.0.0.1 --port=6006")
print("🌐 浏览器访问:http://127.0.0.1:6006,点击 PROJECTOR 标签查看词向量可视化")
相关推荐
明航咨询_贾老师1 分钟前
AI智能体供应链投毒事件深度剖析|从OpenClaw技能包攻击到91% Agent漏洞,企业安全架构必须重构
人工智能·重构·安全架构
小道士写程序4 分钟前
自然语言处理NLP - 第11章 从概率到回答:推理与提示词
人工智能·自然语言处理
147API6 分钟前
学生模型和教师模型怎样做路由,阈值应该看哪些指标
网络·人工智能·深度学习·机器学习·智能路由器
该逃避避13 分钟前
Copilot 能换成本地吗?本地化 AI 编程助手可行性全解析
人工智能·copilot
霸道流氓气质13 分钟前
Spring AI Alibaba 系列总结:Java 工程师 AI 能力全景图谱
java·人工智能·spring
是隼人14 分钟前
buuctf-pwn PWN2(整数溢出)题解(学习过程持续更新)
c语言·学习·安全·pwn入门·ctf入门
俊哥V14 分钟前
AI 今日研究简报 · 2026-09-08
人工智能·ai
一切皆是因缘际会18 分钟前
具身智能
人工智能·microsoft·生活
微三云生态系统架构师-彭丹20 分钟前
区域拆分独立分红池系统设计:解决大盘分红迟滞的四维拆分引擎
大数据·人工智能
hui-梦苑20 分钟前
[Math]复合函数极限存在定理:单调连续函数反函数连续性定理推论
学习·数学·定理·函数极限·海涅定理