Bert Score-文本相似性评估

Bert Score

Bert Score 是基于BERT模型的一种方法。它通过计算两个句子在BERT模型中的嵌入编码之间的余弦相似度来评估它们的相似度。BERTScore考虑了上下文信息和语义信息,因此能够更准确地衡量句子之间的相似度。

安装

pip install bert-score

使用例子

  • 一个句子和一个句子的比较

    cand=["I have an apple."]
    ref=["I have a pen."]
    P, R, F1 = bert_score.score(cand,ref, lang="en",
    verbose=True,
    model_type='bert-large-uncased')
    #tensor([0.8176]) tensor([0.8176]) tensor([0.8176])

  • 一个句子和多个句子的比较

    cand=["I have an apple."]
    ref=[["I have a pen.","I have a doll"]]
    P, R, F1 = bert_score.score(cand,ref, lang="en", verbose=True,
    model_type='bert-large-uncased')
    #tensor([0.8176]) tensor([0.8176]) tensor([0.8176])

  • 多个句子和多个句子之间的比较

    cand=["I have an apple.","I am Lucky."]
    ref=["I have a pen.","I am Lucy."]
    P, R, F1 = bert_score.score(cand,ref, lang="en", verbose=True,
    model_type='bert-large-uncased')
    #tensor([0.8176, 0.6489]) tensor([0.8176, 0.6489]) tensor([0.8176, 0.6489])

  • 这里的model_type用于指定模型,可以点击仓库查看

  • 这里的返回值在0-1之间,越接近1说明越相似

相关推荐
AI科技星1 分钟前
统一场论框架下万有引力常数的量子几何涌现与光速关联
数据结构·人工智能·算法·机器学习·重构
Coder个人博客8 分钟前
Apollo Canbus 底盘通信模块接口调用流程图与源码分析
人工智能·自动驾驶·apollo
孟祥_成都8 分钟前
前端和小白都能看懂的 LangChain Model 模块核心实战指南
前端·人工智能
玄微云11 分钟前
玄微科技:大健康数智化的 4 个 AI 智能体落地要点
大数据·人工智能·科技·软件需求·门店管理
蓝鲨硬科技12 分钟前
黄仁勋“梭哈”的物理AI,正在被中国企业变成现实
人工智能·chatgpt
Coder个人博客12 分钟前
Apollo Prediction 预测模块接口调用流程图与源码分析
人工智能·自动驾驶·apollo
热爱专研AI的学妹14 分钟前
【搭建工作流教程】使用数眼智能 API 搭建 AI 智能体工作流教程(含可视化流程图)
大数据·数据库·人工智能·python·ai·语言模型·流程图
LYFlied19 分钟前
Spec Coding:AI时代前端开发的范式革新
前端·人工智能·工程化·spec coding
2401_8414956420 分钟前
知识工程:人工智能从通用求解到知识驱动的演进基石
人工智能·自然语言处理·知识图谱·语义网络·状态空间·知识工程·自然语言理解
救救孩子把21 分钟前
中文命名实体识别(NER)数据集全面整理
人工智能·机器学习·数据集