【NLP 48、大语言模型的神秘力量 —— ICL:in context learning】

目录

一、ICL的优势

1.传统做法

2.ICL做法

二、ICL的发展

三、ICL成因的两种看法

[1.meta learning](#1.meta learning)

[2.Bayesian Inference](#2.Bayesian Inference)

四、ICL要点

[① 语言模型的规模](#① 语言模型的规模)

[② 提示词prompt中提供的examples数量和顺序](#② 提示词prompt中提供的examples数量和顺序)

[③ 提示词prompt的形式(format)](#③ 提示词prompt的形式(format))

[五、fine-tune VS ICL](#五、fine-tune VS ICL)


不要抓着枯叶哭泣,你要等待初春的芽

------ 25.3.26

一、ICL的优势

1.传统做法

任务定义 ------> 建立标注规范 ------> 标注人员学习标注规范 ------> 标注人员进行标注 ------> 对标注结果进行审核 ------> 使用标注数据训练模型 ------> 模型验证效果 ------> 模型实际预测

2.ICL做法

任务定义 ------> 模型实际预测

ICL方法如果完全成熟,意味着fine-tune范式的终结


二、ICL的发展

关于ICL的成因,目前学术界没有被广泛认可的解释,只有若干假说和一些表现分析。

在GPT3的论文中,z-s【zero-shot】,o-s【one-shot】,f-s【few-shot】都属于ICL


chain-of-thought思维链属于ICL


GPT3给出参考:在输入中加入至少一个样本,能大幅提升ICL效果

对于一个较大的模型而言,给出一个例子就可以显著的提升ICL的效果,给出Few-shot,准确性还会有所提升

对于一个较弱的模型而言,给出多少例子都不会显著提升ICL的效果


fine-tune会伤害ICL能力


精巧的提示词prompt设计有可能超过os、fs,可以通过提示词的改写进一步提高ICL的能力


Magical word

不给出思维链,而是在输入时多加入一句提示词,需要模型一步步思考:Let's think step by step

模型就可以像思维链一样主动发出思考,最终输出正确的结果


ICL时输入错误样本,不一定影响准确率

我们发现,用随机标签替换正确标签只会略微影响性能,这一趋势在几乎整个过程中是一致的


ICL可以压倒先验知识


三、ICL成因的两种看法

1.meta learning

大模型能在内部训练小型网络

2.Bayesian Inference

模型任务可以看作一个贝叶斯一样的多条件概率的组合,pretrain、prompt、example三者条件概率的组合,三者皆对于最终概率有影响


四、ICL要点

① 语言模型的规模

语言模型需要达到一定的规模

② 提示词prompt中提供的examples数量和顺序

给出的示例样本的数量和顺序也会影响模型效果的好坏

③ 提示词prompt的形式(format)

提示词的格式也十分重要,好的模型会根据你给出的格式回答你的问题


五、fine-tune VS ICL

相关推荐
背太阳的牧羊人10 分钟前
OpenAI Embedding 和密集检索(如 BERT/DPR)进行语义相似度搜索有什么区别和联系
人工智能·bert·embedding
光与电子KOYUELEC加油奋斗1 小时前
Molex莫仕连接器:增强高级驾驶辅助系统,打造更安全的汽车
人工智能·光与电子
__lost3 小时前
MATLAB画出3d的常见复杂有机分子和矿物的分子结构
开发语言·人工智能·matlab·化学·分子结构
每天都要写算法(努力版)3 小时前
【神经网络与深度学习】五折交叉验证(5-Fold Cross-Validation)
人工智能·深度学习·神经网络
郭不耐4 小时前
DeepSeek智能时空数据分析(六):大模型NL2SQL绘制城市之间连线
人工智能·数据分析·时序数据库·数据可视化·deepseek
winfredzhang5 小时前
Deepseek 生成新玩法:从文本到可下载 Word 文档?思路与实践
人工智能·word·deepseek
KY_chenzhao5 小时前
ChatGPT与DeepSeek在科研论文撰写中的整体科研流程与案例解析
人工智能·机器学习·chatgpt·论文·科研·deepseek
不爱吃于先生5 小时前
生成对抗网络(Generative Adversarial Nets,GAN)
人工智能·神经网络·生成对抗网络
cxr8286 小时前
基于Playwright的浏览器自动化MCP服务
人工智能·自动化·大语言模型·mcp
PPIO派欧云6 小时前
PPIO X OWL:一键开启任务自动化的高效革命
运维·人工智能·自动化·github·api·教程·ppio派欧云