今天简单聊聊bert模型做文本分类任务的简单流程:先是对下载好的bert预训练模型查看一些简单信息.隐藏层12层,隐藏层输出维度768维.实际分类中,输出768个分类结果,几乎没有.还有就是分的结果越多,让模型精确具体结果就太模糊了.所以在这个地方,要经过改进,创造出适合自己任务的模型.首先继承nn.Module类.定义初始化方法,继承父类的初始化方法,导入bert模型.写入自己的线性层.然后重写前向传播.传入input_ids,attention_mask,返回结果.剩下的就是加载模型,传入数据开始训练.
相关推荐
ksueh5 小时前
平台围剿AI网文能持久吗：更新量指标一日不改AI一日停不下来智商网输送线配件5 小时前
输送机及配件采购实战：东莞中小制造企业2026年供应平台选型技术指南摹客5 小时前
【趋势】AI重构原型设计：从表达文件到验证行为，5个变化+工具选型乃嘿仔5 小时前
AI 热点日报 · 2026-09-30java资料站5 小时前
十二、可观测性头发够用的程序员5 小时前
TensorRT 自定义算子插件实战（一）：从零手写 customScaledTanhm4Rk_5 小时前
【论文阅读】Agent 记忆机制（86）：Skill-Pro——用 Non-Parametric PPO 将交互经验演化为可复用技能旺仔Sec5 小时前
2026年江西省职业院校技能大赛人工智能大模型应用开发赛项样题新知图书5 小时前
【新书推荐】《让AI推荐你的品牌：GEO营销实践》火山引擎和TA的超级拍档们6 小时前
产品情报局 04｜客服Agent：大模型时代的智能客服新范式