主要的有点就是快，用途就是用于文本分类，模型结构如上，主要是通过embedding将文本转换成向量，然后进行mean-pooling，然后输入到hidden隐向量中，通过softmax输出多分类，损失函数是对数似然损失函数（log-likelihood loss）.
Bag of Tricks for Efficient Text Classification（FastText）
WitsMakeMen2023-10-22 13:48
相关推荐
大鱼>10 天前
大语言模型+物联网：LLM理解物理世界AndrewHZ10 天前
【LLM技术全景】大模型能力探秘：In-Context Learning与思维链（CoT）生成论实验室10 天前
机器人：一个自主运动的系统Data-Miner10 天前
大语言模型+智能体AI，122页PPT详解落地应用培训！枫叶林FYL10 天前
BRIDGE：多模态查询的强化学习对齐与文本检索重构小小工匠10 天前
拆解大语言模型：从词向量到注意力机制的内部运行原理暮云星影10 天前
瑞芯微rk3588利用Rockchip NPU运行大语言模型（LLM）生成论实验室10 天前
自动驾驶：一个自主运动的系统searchforAI10 天前
啥是LLM？大语言模型从原理到选型的完整科普MartinYeung511 天前
[论文学习]重新思考大型语言模型忘却目标:梯度视角与超越