Re53:读论文 How Can We Know What Language Models Know?

诸神缄默不语-个人CSDN博文目录
诸神缄默不语的论文阅读笔记和分类

论文名称:How Can We Know What Language Models Know?

ArXiv网址:https://arxiv.org/abs/1911.12543

官方GitHub项目(prompt之类的都有):https://github.com/jzbjyb/LPAQA

本文是2020年TACL论文,作者来自卡耐基梅隆大学和博世北美研究所。

本文关注探索LM中蕴含的知识。以前已经有工作用完形填空的方式来探查知识(Obama is a __ by profession),但是这些填空模版(prompt)都是手工做的,因此可能是sub-optimal的(在上一篇论文最后也提及了),不能充分发挥LM的能力。

本文的解决方案是自动挖掘prompt(远程监督、回译、集成)

这篇工作的实验真的多,这也太能做了。

文章目录

  • [1. 探查知识的方案](#1. 探查知识的方案)
  • [2. 实验](#2. 实验)
    • [1. 数据集](#1. 数据集)
    • [2. LM](#2. LM)
    • [3. baseline](#3. baseline)
    • [4. 实验设置](#4. 实验设置)
    • [5. 主实验结果](#5. 主实验结果)
    • [6. 实验分析](#6. 实验分析)
      • [Prediction Consistency by Prompt](#Prediction Consistency by Prompt)
      • [POS-based Analysis](#POS-based Analysis)
      • [Cross-model Consistency](#Cross-model Consistency)
      • [Linear vs. Log-linear Combination](#Linear vs. Log-linear Combination)
    • [7. 失败trick集合](#7. 失败trick集合)

1. 探查知识的方案

从数据库中获取知识是deterministic的,但从LM中获取知识(完形填空)是不可靠的。

本文用的都是双向LM,做填空题的那种。

  1. mining-based methods:远程监督:从维基百科中找三元组出现的句子。
    1. 方法一:Middle-word Prompts(subject prompt object)
    2. 方法二:Dependency-based Prompts(句法分析→subject和object之间的依存路径)

      (句法分析这块我也不懂总之大概是这么个意思吧)
  2. paraphrasing-based methods:对人工或挖掘得到的种子prompt进行回译
  3. 挑选和集成prompt
    1. Top-1 Prompt Selection:选择在训练集上准确率最高的prompt(这个准确率的公式定义比较复杂,但是反正就这个prompt对应的关系里object预测正确的占所有样本的比例)
    2. Rank-based Ensemble:top-K概率求和
    3. Optimized Ensemble:大意是说对每个关系的T个prompt分别训练权重

这篇paper里面还提及了BERT跟LM的标准定义严格来说不一样这一茬:

感觉现在已经没人在乎了=== 随便吧==

2. 实验

1. 数据集

2. LM

BERT-base

BERT-large

增强了外部的实体表征:

ERNIE

Know-Bert

3. baseline

  1. Majority
  2. Man:手工prompt
  3. Mine
  4. Mine+Man
  5. Mine+Para
  6. Man+Para
  7. TopK:求平均
  8. Opti.:加权平均
  9. Oracle:所有prompt中有一个能预测正确,就算LM知道这个知识

4. 实验设置

mine 40个prompts

回译7个prompts

清洗噪音prompts

Adam

batch size: 32

5. 主实验结果

与手工prompt相比,效果得到了提升:

集成权重:

K的选择:

prompt做轻微修改也能改变效果:

两种远程监督方案的对比:

不同LM的实验结果:

在LAMA-HUN(一个比LAMA更难的benchmark)上的表现:

在Google-RE上的表现:

6. 实验分析

Prediction Consistency by Prompt

divergence是两个prompt预测结果不同的程度:

皮尔森相关系数是0.25,说明编辑距离和divergence之间确实存在弱相关性(prompt差别越大,预测结果差别越大)

POS-based Analysis

用排名分布而不是准确率分布,在脚注解释了一下是因为不同关系的准确率的量级不同

Cross-model Consistency

检测prompts能不能跨模型通用

Linear vs. Log-linear Combination

求和的权重

7. 失败trick集合

这块真实诚啊

  1. LM-aware Prompt Generation
  2. Forward and Backward Probabilities
相关推荐
G皮T3 小时前
【人工智能】ChatGPT、DeepSeek-R1、DeepSeek-V3 辨析
人工智能·chatgpt·llm·大语言模型·deepseek·deepseek-v3·deepseek-r1
九年义务漏网鲨鱼3 小时前
【大模型学习 | MINIGPT-4原理】
人工智能·深度学习·学习·语言模型·多模态
元宇宙时间3 小时前
Playfun即将开启大型Web3线上活动,打造沉浸式GameFi体验生态
人工智能·去中心化·区块链
开发者工具分享3 小时前
文本音频违规识别工具排行榜(12选)
人工智能·音视频
产品经理独孤虾4 小时前
人工智能大模型如何助力电商产品经理打造高效的商品工业属性画像
人工智能·机器学习·ai·大模型·产品经理·商品画像·商品工业属性
老任与码4 小时前
Spring AI Alibaba(1)——基本使用
java·人工智能·后端·springaialibaba
蹦蹦跳跳真可爱5894 小时前
Python----OpenCV(图像増强——高通滤波(索贝尔算子、沙尔算子、拉普拉斯算子),图像浮雕与特效处理)
人工智能·python·opencv·计算机视觉
雷羿 LexChien4 小时前
从 Prompt 管理到人格稳定:探索 Cursor AI 编辑器如何赋能 Prompt 工程与人格风格设计(上)
人工智能·python·llm·编辑器·prompt
两棵雪松5 小时前
如何通过向量化技术比较两段文本是否相似?
人工智能
heart000_15 小时前
128K 长文本处理实战:腾讯混元 + 云函数 SCF 构建 PDF 摘要生成器
人工智能·自然语言处理·pdf