主要的有点就是快，用途就是用于文本分类，模型结构如上，主要是通过embedding将文本转换成向量，然后进行mean-pooling，然后输入到hidden隐向量中，通过softmax输出多分类，损失函数是对数似然损失函数（log-likelihood loss）.
Bag of Tricks for Efficient Text Classification（FastText）
WitsMakeMen2023-10-22 13:48
相关推荐
Omics Pro11 小时前
华大等NC｜微生物多样性与抗菌物质发现Yuer202512 小时前
幻觉量化（Hallucination Quantization）：从随机语言模型到确定性交付系统的工程范式Zzj_tju13 小时前
大语言模型部署实战：从 Ollama、vLLM 到 SGLang，本地服务到底怎么搭？斯班奇的好朋友阿法法13 小时前
本地ollama大模型速度慢的优化MaoziShan15 小时前
CMU Subword Modeling | 22 Phonological Similarity and Cognate DetectionMaoziShan16 小时前
CMU Subword Modeling | 23 Syllables and SyllabificationACCELERATOR_LLC16 小时前
【DataWhale组队学习】DIY-LLM Task3 语言模型架构和训练的技术细节05大叔16 小时前
语言模型 预训练语言模型BERT - 结构Transformer05大叔17 小时前
语言模型学习-统计语言模型 神经语言模型可乐要加冰^-^17 小时前
Vscode、Pycharm快速配置Claude、CodeX