Bert Score-文本相似性评估

Bert Score

Bert Score 是基于BERT模型的一种方法。它通过计算两个句子在BERT模型中的嵌入编码之间的余弦相似度来评估它们的相似度。BERTScore考虑了上下文信息和语义信息,因此能够更准确地衡量句子之间的相似度。

安装

pip install bert-score

使用例子

  • 一个句子和一个句子的比较

    cand=["I have an apple."]
    ref=["I have a pen."]
    P, R, F1 = bert_score.score(cand,ref, lang="en",
    verbose=True,
    model_type='bert-large-uncased')
    #tensor([0.8176]) tensor([0.8176]) tensor([0.8176])

  • 一个句子和多个句子的比较

    cand=["I have an apple."]
    ref=[["I have a pen.","I have a doll"]]
    P, R, F1 = bert_score.score(cand,ref, lang="en", verbose=True,
    model_type='bert-large-uncased')
    #tensor([0.8176]) tensor([0.8176]) tensor([0.8176])

  • 多个句子和多个句子之间的比较

    cand=["I have an apple.","I am Lucky."]
    ref=["I have a pen.","I am Lucy."]
    P, R, F1 = bert_score.score(cand,ref, lang="en", verbose=True,
    model_type='bert-large-uncased')
    #tensor([0.8176, 0.6489]) tensor([0.8176, 0.6489]) tensor([0.8176, 0.6489])

  • 这里的model_type用于指定模型,可以点击仓库查看

  • 这里的返回值在0-1之间,越接近1说明越相似

相关推荐
sp_fyf_20241 小时前
[大语言模型-论文精读] 阿里巴巴-通过多阶段对比学习实现通用文本嵌入
人工智能·深度学习·神经网络·计算机视觉·语言模型·自然语言处理·数据挖掘
lijianhua_97121 小时前
先进制造aps专题二十六 基于强化学习的人工智能ai生产排程aps模型简介
人工智能·强化学习·aps
少喝冰美式1 小时前
深度学习 Transformer 的标签平滑(Label Smoothing)
人工智能·深度学习·llm·transformer·大语言模型·ai大模型·计算机技术
阿川20152 小时前
汽车革命下半场AI先锋:广汽为新“智”汽车装配大模型“底盘”
人工智能·大模型·汽车
Mr_Happy_Li2 小时前
完整网络模型训练(一)
人工智能·python·深度学习·神经网络·机器学习·计算机视觉
gffvgvb2 小时前
SD-WebUI forge支持flux模型。算力互联forge镜像使用教程
人工智能
萧鼎2 小时前
自然语言处理问答系统技术
自然语言处理
jndingxin2 小时前
OpenCV视频I/O(4)视频采集类VideoCapture之获取异常处理模式函数getExceptionMode()的使用
人工智能·opencv·音视频
绎岚科技2 小时前
深度学习自编码器 - 分布式表示篇
人工智能·分布式·深度学习·算法·机器学习