encoder-only

博士僧小星3 小时前
人工智能·大模型·encoder-decoder·模型架构·encoder-only·decoder-only
人工智能|大模型——架构——大模型主流架构Encoder-Only、Decoder-Only、Encoder-DecoderEncoder-Only 架构，也被称为单向架构，仅包含编码器部分。它主要适用于不需要生成序列的任务，只需要对输入进行编码和处理的单向任务场景，如文本分类 、情感分析等。这种架构的代表是 BERT 相关的模型，例如 BERT、RoBERT 和 ALBERT 等。
丁学文武6 个月前
人工智能·语言模型·nlp·bert·roberta·大模型应用·encoder-only
大模型原理与实践：第三章-预训练语言模型详解_第1部分-Encoder-only（BERT、RoBERTa、ALBERT）第一章 NLP基础概念完整指南第二章 Transformer 架构原理第三章 预训练语言模型第四章 大语言模型
我是有底线的