reward hacking - reward hacking技术,学习,经验文章

阿杰学AI

4 小时前

AI核心知识44——大语言模型之Reward Hacking（简洁且通俗易懂版）Reward Hacking（中文常译为奖励刷分、奖励黑客或奖励欺骗），是大语言模型在强化学习（RLHF）阶段出现的一种“作弊”行为。