【大模型原理与技术-毛玉仁】第五章 模型编辑

5 模型编辑

5.1 模型编辑简介

大语言模型有时会产生一些不符合人们期望的结果,如偏见、毒性和知识错误等。

偏见 是指模型生成的内容中包含刻板印象和社会偏见等不公正的观点,毒性 是指模型生成的内容中包含有害成分,而知识错误则是指模型提供的信息与事实不符。

然而,重新预训练存在成本过高等缺陷,微调存在过拟合、灾难性遗忘等缺陷。

为规避重新预训练和微调方法的缺点,模型编辑应运而生。其旨在精准、高效地修正大语言模型中的特定知识点,能够满足大语言模型对特定知识点进行更新的需求。

模型编辑思想

模型编辑定义

模型编辑挑战

模型编辑性质

常用数据集

在模型编辑的相关研究中,使用最广泛的是由Omer Levy 等人提出的zsRE数据集。

zsRE是一个问答任务的数据集,通过众包模板问题来评估模型对于特定关系(如实体间的"出生地"或"职业"等联系)的编辑能力。

在模型编辑中,zsRE数据集用于检查模型能否准确识别文本中的关系,以及能否根据新输入更新相关知识,从而评估模型编辑方法的准确性

5.2 模型编辑经典方法

如果将大语言模型比作冒险游戏中的勇者,那么模型编辑可被看作一种满足"升级"需求的方法,可以分别从内外两个角度来考虑。

外部拓展法:通过设计特定的训练程序,使模型在保持原有知识的同时学习新信息。

内部修改法:通过调整模型内部特定层或神经元,来实现对模型输出的精确控制。

外部拓展法

外部拓展法包括知识缓存法附加参数法

内部修改法

内部修改法包括元学习法定位编辑法

方法比较

5.3 附加参数法:T-Patcher

补丁的位置

补丁的形式

补丁的实现

5.4 定位编辑法:ROME

知识存储位置

知识存储机制

精准知识编辑

5.5 模型编辑应用

精准模型更新

保护被遗忘权

由于大语言模型在训练和处理过程中也会记忆和使用个人信息,所以同样受到被遗忘权的法律约束。

机器遗忘

提升模型安全

相关推荐
白-胖-子1 小时前
深入剖析大模型在文本生成式 AI 产品架构中的核心地位
人工智能·架构
想要成为计算机高手2 小时前
11. isaacsim4.2教程-Transform 树与Odometry
人工智能·机器人·自动驾驶·ros·rviz·isaac sim·仿真环境
NeoFii3 小时前
Day 22: 复习
机器学习
静心问道3 小时前
InstructBLIP:通过指令微调迈向通用视觉-语言模型
人工智能·多模态·ai技术应用
宇称不守恒4.03 小时前
2025暑期—06神经网络-常见网络2
网络·人工智能·神经网络
小楓12014 小时前
醫護行業在未來會被AI淘汰嗎?
人工智能·醫療·護理·職業
数据与人工智能律师4 小时前
数字迷雾中的安全锚点:解码匿名化与假名化的法律边界与商业价值
大数据·网络·人工智能·云计算·区块链
chenchihwen4 小时前
大模型应用班-第2课 DeepSeek使用与提示词工程课程重点 学习ollama 安装 用deepseek-r1:1.5b 分析PDF 内容
人工智能·学习
说私域4 小时前
公域流量向私域流量转化策略研究——基于开源AI智能客服、AI智能名片与S2B2C商城小程序的融合应用
人工智能·小程序
Java樱木4 小时前
AI 编程工具 Trae 重要的升级。。。
人工智能