主要的有点就是快，用途就是用于文本分类，模型结构如上，主要是通过embedding将文本转换成向量，然后进行mean-pooling，然后输入到hidden隐向量中，通过softmax输出多分类，损失函数是对数似然损失函数（log-likelihood loss）.
Bag of Tricks for Efficient Text Classification（FastText）
WitsMakeMen2023-10-22 13:48
相关推荐
troubles maker4 小时前
Decoder-Only模型小超同学你好4 小时前
Transformer 9. Decoder-Encoder 层多头自注意力机制智算菩萨4 小时前
Chain-of-Thought Prompting：为什么逐步推理能提升大模型准确率PNP机器人5 小时前
具身大型语言模型让机器人玩转复杂未知场景Rabbit_QL5 小时前
Ollama 本地 LLM 配置指南Codefengfeng5 小时前
如何本地部署大模型（以PaddleOCR-VL-1.5为例）官能13 天前
从 ReAct 到 LangGraph：房产 Agent 的工作流升级复盘小马过河R14 天前
OpenClaw 记忆系统工作原理硅谷秋水14 天前
从机制角度看视频生成作为世界模型：状态与动态摘星编程14 天前
大语言模型(Large Language Models，LLM)如何颠覆未来：深入解析应用、挑战与趋势