Bert Score-文本相似性评估

Bert Score

Bert Score 是基于BERT模型的一种方法。它通过计算两个句子在BERT模型中的嵌入编码之间的余弦相似度来评估它们的相似度。BERTScore考虑了上下文信息和语义信息,因此能够更准确地衡量句子之间的相似度。

安装

pip install bert-score

使用例子

  • 一个句子和一个句子的比较

    cand=["I have an apple."]
    ref=["I have a pen."]
    P, R, F1 = bert_score.score(cand,ref, lang="en",
    verbose=True,
    model_type='bert-large-uncased')
    #tensor([0.8176]) tensor([0.8176]) tensor([0.8176])

  • 一个句子和多个句子的比较

    cand=["I have an apple."]
    ref=[["I have a pen.","I have a doll"]]
    P, R, F1 = bert_score.score(cand,ref, lang="en", verbose=True,
    model_type='bert-large-uncased')
    #tensor([0.8176]) tensor([0.8176]) tensor([0.8176])

  • 多个句子和多个句子之间的比较

    cand=["I have an apple.","I am Lucky."]
    ref=["I have a pen.","I am Lucy."]
    P, R, F1 = bert_score.score(cand,ref, lang="en", verbose=True,
    model_type='bert-large-uncased')
    #tensor([0.8176, 0.6489]) tensor([0.8176, 0.6489]) tensor([0.8176, 0.6489])

  • 这里的model_type用于指定模型,可以点击仓库查看

  • 这里的返回值在0-1之间,越接近1说明越相似

相关推荐
栗克24 分钟前
Halcon 图像预处理②
人工智能·计算机视觉·halcon
互联网全栈架构1 小时前
遨游Spring AI:第一盘菜Hello World
java·人工智能·后端·spring
m0_465215791 小时前
大语言模型解析
人工智能·语言模型·自然语言处理
张较瘦_2 小时前
[论文阅读] 人工智能+软件工程 | 结对编程中的知识转移新图景
人工智能·软件工程·结对编程
小Q小Q3 小时前
cmake编译LASzip和LAStools
人工智能·计算机视觉
yzx9910133 小时前
基于 Q-Learning 算法和 CNN 的强化学习实现方案
人工智能·算法·cnn
token-go3 小时前
[特殊字符] 革命性AI提示词优化平台正式开源!
人工智能·开源
cooldream20094 小时前
华为云Flexus+DeepSeek征文|基于华为云Flexus X和DeepSeek-R1打造个人知识库问答系统
人工智能·华为云·dify
Blossom.1187 小时前
使用Python和Scikit-Learn实现机器学习模型调优
开发语言·人工智能·python·深度学习·目标检测·机器学习·scikit-learn
DFminer9 小时前
【LLM】fast-api 流式生成测试
人工智能·机器人