主要的有点就是快，用途就是用于文本分类，模型结构如上，主要是通过embedding将文本转换成向量，然后进行mean-pooling，然后输入到hidden隐向量中，通过softmax输出多分类，损失函数是对数似然损失函数（log-likelihood loss）.
Bag of Tricks for Efficient Text Classification（FastText）
WitsMakeMen2023-10-22 13:48
相关推荐
m0_465215799 小时前
大语言模型解析阿部多瑞 ABU18 小时前
主流大语言模型安全性测试（三）：阿拉伯语越狱提示词下的表现与分析要努力啊啊啊18 小时前
Reranker + BM25 + FAISS 构建高效的多阶段知识库检索系统一J_Xiong011720 小时前
【LLMs篇】14：扩散语言模型的理论优势与局限性盛寒1 天前
N元语言模型 —— 一文讲懂！！！PythonFun1 天前
DeepSeek-R1-0528：开源推理模型的革新与突破Jamence1 天前
多模态大语言模型arxiv论文略读（111）小天才才1 天前
【自然语言处理】大模型时代的数据标注（主动学习）音程1 天前
预训练语言模型T5-11B的简要介绍Jamence1 天前
多模态大语言模型arxiv论文略读（110）