ai对齐 - ai对齐技术,学习,经验文章

深度之眼

1 年前

大语言模型对齐技术最新论文及源码合集（外部对齐、内部对齐、可解释性）大语言模型对齐(Large Language Model Alignment)是利用大规模预训练语言模型来理解它们内部的语义表示和计算过程的研究领域。主要目的是避免大语言模型可见的或可预见的风险，比如固有存在的幻觉问题、生成不符合人类期望的文本、容易被用来执行恶意行为等。