主要的有点就是快，用途就是用于文本分类，模型结构如上，主要是通过embedding将文本转换成向量，然后进行mean-pooling，然后输入到hidden隐向量中，通过softmax输出多分类，损失函数是对数似然损失函数（log-likelihood loss）.
Bag of Tricks for Efficient Text Classification（FastText）
WitsMakeMen2023-10-22 13:48
相关推荐
阿萨德528号5 小时前
Kimi K3：全球首个开源 3T 级大模型，技术解读与手记Zzj_tju7 小时前
Alignment Science 与可控生成：偏好学习、宪法式训练和可验证对齐WHS-_-20228 小时前
CL-SEC: Cross-Layer Semantic Error Correction Empowered byLanguage Models陌路2015 小时前
初步认识-大模型-基础认知Mark White1 天前
具身智能论文伴读-第一期zhangfeng11331 天前
llamafactory 大语言模型llm 微调，关键参数深度讲解（法律大模型微调专属版）LDZKKJ1 天前
国产开源 MoE 三强横评：Qwen3 235B / Kimi K2 / DeepSeek V3.1 深度技术解读般若-波罗蜜2 天前
MinerU高级用法，避坑指南（持续更新）QN1幻化引擎2 天前
DalinX V8 — 整体能力地图与 AGI 阶段评估cxr8282 天前
大语言模型上下文缓存命中率测试全场景清单