LLM 笔记 —— 02 大语言模型能力评定

本文探讨了评估语言模型性能的不同方法及其局限性。对于选择题,模型输出可能包含文字、概率或推断,难以标准化评判,开放性问题则更难统一标准,解决方案包括wit人类评审、使用更强模型模型(如GPT-4)评判,但需注意"内卷"(过长输出)的影响。

测试应涵盖多样化任务(如BIG-bench中的200多个特定任务)或专项能力(如长文理解),此外,研究表明语言模型可能为达成目标而降低道德标准,心智理论能力较弱,且存在记忆训练数据的问题,还需考虑价格、速度等实际因素,评估需综合多种方法,避免单一标准带来的偏差。

Benchmark Corpus 基准语料库

01 如何根据标准答案决定语言模型输出是否正确?

也许,可以考察选择题?

Massive Multitask Language Understanding (MMLU)

即便是选择题,评比标准的不同也会导致得到的测试结果不同,比如,语言模型没有输出 ABCD,而是回答一堆文字,一些概率,或者一些推断,算不算对呢?比如,模型喜欢猜测答案,偏好某些字母或数字,测试结果也不同。

选择题尚且如此,如果是一般的问答、翻译、摘要等,语言模型的回答更是五花八门,难以评定。

也许,是人类来评定更加合理?

语言模型天梯榜

也许,可以用更强大的语言模型来判断?

MT-Bench 采用 ChatGPT-4 来进行衡量

但是,有些语言模型喜欢长篇大论,也就是内卷,这也会对评定结果有偏差,因此,我们需要在评价时引入长度因素,输出过长会被扣分。

02 我们应该输入什么问题给语言模型?

现如今,语言模型的能力都是比较全面的,我们在检测这些语言模型的能力时,往往期待收集大量各式各样的任务,来看看语言模型是不是各式各样的任务都能办好。

注意,BIG-bench 中收集了各种奇奇怪怪的任务,200多个,比如符号猜测(Emoji Movie)、下西洋棋(Checkmate In One Move)、翻译密码(ASCⅡ word recognition)。

Emoji Movie

Checkmate In One Move

ASCⅡ word recognition

有时,我们也想评测特定能力,比如,阅读长文的能力。有一种评测方法,叫做大海捞针(Needle in a Haystack)。

实验表明,输入文本的长度低于64K token时,无论插入在什么地方,GPT-4 都可以准确截取最好资讯,高于64K token时,如果插入在10% ~ 50%位置,GPT-4 就可能无法获得最好资讯。

同样地,我们也对 Claude-2.1 进行测试,实验结果如下:

Claude 团队看到这个结果,两眼一黑,专门发布文章,声称更改提问方式可以大大提高实验结果数值,如下:

03 语言模型会不会为达目标不择手段?

龙与地下城

实验结果如下,横轴代表分数,纵轴代表道德水平:

04 机器有没有心智理论(Theory of Mind)?

心智理论(Theory of Mind):揣摩他人想法的能力,也就是我知道你知道我知道...

设计一个聊天场景,询问凯莉,琳达的狗是什么品种,正确答案是,凯莉不知道琳达的狗是什么品种,因为他们聊到这个话题时凯莉并不在场。

实验表明,人类在该问题上的正确率为87.5%,其他的所有大模型正确率都非常低,说明其的心智水平也比较低。

请注意,新出的题目一旦在网络上公开,就可能被语言模型学习,即便换一套说法测试模型,也会得到相当好的效果。

有一个百口莫辩的实验,直接询问语言模型有没有资料集RTE里面的资料,如果模型给出的资料和实际资料一毛一样,那就实锤模型偷看过这些资料和正确答案。

实验结果如下:

可以看出,很多资料集,GPT-3.5都能输出相关资料,实锤了!

05 其他面向:价格、速度...

相关推荐
小苑同学3 小时前
联邦大型语言模型、多智能体大型语言模型是什么?
人工智能·语言模型·自然语言处理
小蝙蝠侠3 小时前
安德烈·卡帕西:深入探索像ChatGPT这样的大语言模型内容列表
人工智能·算法·机器学习
安娜的信息安全说3 小时前
Ollama 使用详解:本地部署大语言模型的指南
人工智能·ai·语言模型·ollama
羞儿3 小时前
【pytorch】数据增强与时俱进,未来的改进和功能将仅添加到 torchvision.transforms.v2 转换中
pytorch·python·深度学习·数据增强
渡我白衣3 小时前
C++20 协程:在 AI 推理引擎中的深度应用
大数据·人工智能·c++20
可触的未来,发芽的智生3 小时前
新奇特:负权重橡皮擦,让神经网络学会主动遗忘
人工智能·python·神经网络·算法·架构
用户5191495848453 小时前
Elastic Stack 9.1.4 发布:重要安全更新与功能优化
人工智能·aigc
努力奋斗的Tom3 小时前
MCP 教学篇(一)什么是 MCP
人工智能·开源
文火冰糖的硅基工坊3 小时前
[创业之路-667]:第四次工业革命(智能革命)未来将创造大量的财富,普通人通过哪些方式参与这些财富的创造与分享?
人工智能·系统架构·产业链