Bert Score-文本相似性评估

Bert Score

Bert Score 是基于BERT模型的一种方法。它通过计算两个句子在BERT模型中的嵌入编码之间的余弦相似度来评估它们的相似度。BERTScore考虑了上下文信息和语义信息,因此能够更准确地衡量句子之间的相似度。

安装

pip install bert-score

使用例子

  • 一个句子和一个句子的比较

    cand=["I have an apple."]
    ref=["I have a pen."]
    P, R, F1 = bert_score.score(cand,ref, lang="en",
    verbose=True,
    model_type='bert-large-uncased')
    #tensor([0.8176]) tensor([0.8176]) tensor([0.8176])

  • 一个句子和多个句子的比较

    cand=["I have an apple."]
    ref=[["I have a pen.","I have a doll"]]
    P, R, F1 = bert_score.score(cand,ref, lang="en", verbose=True,
    model_type='bert-large-uncased')
    #tensor([0.8176]) tensor([0.8176]) tensor([0.8176])

  • 多个句子和多个句子之间的比较

    cand=["I have an apple.","I am Lucky."]
    ref=["I have a pen.","I am Lucy."]
    P, R, F1 = bert_score.score(cand,ref, lang="en", verbose=True,
    model_type='bert-large-uncased')
    #tensor([0.8176, 0.6489]) tensor([0.8176, 0.6489]) tensor([0.8176, 0.6489])

  • 这里的model_type用于指定模型,可以点击仓库查看

  • 这里的返回值在0-1之间,越接近1说明越相似

相关推荐
科研服务器mike_leeso8 分钟前
41 年 7 次转型!戴尔从 PC 到 AI 工厂的技术跃迁与组织重构
大数据·人工智能·机器学习
大千AI助手21 分钟前
机器学习模型评估指标AUC详解:从理论到实践
人工智能·机器学习·模型评估·roc·precision·recall·auc
2501_9139817830 分钟前
2025年智能家居无线数传设备品牌方案精选
大数据·人工智能·智能家居
不老刘34 分钟前
GitHub Spec-Kit:AI 时代的规范驱动开发工具
人工智能·github·spec-kit
mit6.82437 分钟前
[tile-lang] 张量核心 | 传统MMA->WGMMA | 底层自动选择优化
人工智能·chatgpt
csuzhucong37 分钟前
人类知识体系分类
人工智能·分类·数据挖掘
DisonTangor1 小时前
Lumina-DiMOO:用于多模态生成与理解的全扩散大语言模型
人工智能·语言模型·自然语言处理·ai作画·aigc
golang学习记1 小时前
阿里又出手了,发布全新终端CLI工具,还支持VSCode
人工智能
机器之心1 小时前
具身智能迎来ImageNet时刻:RoboChallenge开放首个大规模真机基准测试集
人工智能·openai
lanyancloud_JX1 小时前
公路工程项目管理软件选型指南
人工智能