主要的有点就是快，用途就是用于文本分类，模型结构如上，主要是通过embedding将文本转换成向量，然后进行mean-pooling，然后输入到hidden隐向量中，通过softmax输出多分类，损失函数是对数似然损失函数（log-likelihood loss）.
Bag of Tricks for Efficient Text Classification（FastText）
WitsMakeMen2023-10-22 13:48
相关推荐
追风哥哥7 小时前
transformer 注意力机制解析码农的神经元9 小时前
从零实现 LLaMA 架构：一步步构建轻量级大语言模型renhongxia19 小时前
大模型Prompt实战：精准生成专业技术文档青梅煮酒与君饮12 小时前
浅谈大模型、Agent、Function Calling、MCP、Skill、Subagent、Langchain、Workflow低调小一13 小时前
Harness Engineering：把大语言模型从“能说”变成“能稳定交付”的四层系统学而要时习14 小时前
强化学习：从“试错进化“到“推理革命小马过河R14 小时前
AI时代下的CLI优势与MCP对比tongxianchao15 小时前
A Survey of Token Compression for Efficient Multimodal Large Language Modelsiiiiii1115 小时前
【LLM学习笔记】Batch Normalization vs Layer Normalization，为什么 NLP 中使用 LN 而非 BN财经资讯数据_灵砚智能15 小时前
全球财经资讯日报（日间）2026年4月1日