技术栈
模型评测
爱好曙光
1 天前
llm
·
llmops
·
a/b测试
·
模型评测
·
自动化回归
LLM在线评测:A/B测试与回归自动化实战
离线评测依赖固定测试集(如 MMLU、HumanEval)计算 BLEU、ROUGE、GPT-4 评分等指标,优点是成本低、可重复,但存在两大天然鸿沟:静态数据集永远无法覆盖线上长尾分布(用户真实提问的风格、上下文长度、领域混合度),指标本身与用户体验弱相关(高分未必意味着用户喜欢)。例如一个回答 BLEU 得分 0.85 但带有事实性错误,用户可能直接点踩;而另一个回答虽然转述略有不同但正确且友好,用户会点赞。
澳鹏Appen
2 个月前
hugging face
·
模型评测
·
模型测试
澳鹏携手Hugging Face,为开放ASR榜单引入非公开音频评测数据集
近日,澳鹏与全球知名AI开源平台Hugging Face达成合作,为开放ASR(自动语音识别)榜单引入了一套非公开、高质量的英语音频数据集。此次合作旨在提升语音识别模型评估的真实性与公信力,帮助开发者在更贴近实际应用的条件下衡量模型性能。
阿杰学AI
5 个月前
人工智能
·
ai
·
语言模型
·
自然语言处理
·
aigc
·
模型评测
·
lm arena
AI核心知识100——大语言模型之 LM Arena(简洁且通俗易懂版)
LM Arena(全称 LMSYS Chatbot Arena)是目前大语言模型(LLM)领域公认最权威、最真实的排行榜。
破烂pan
5 个月前
语言模型
·
模型评测
大语言模型核心评测基准详解:从认知到实践
——研究测试专家学习总结文档(2026年更新版)大模型能力如“冰山”——表面流畅,水下能力需专业探针。单一指标(如BLEU)已失效,多维度、场景化、抗欺骗性的基准组合成为行业共识。本文精选9个经工业界/学术界验证的核心基准,按“定义→价值→实操→升华”四层逻辑拆解,助你: ✅ 精准定位模型能力短板 ✅ 避免评测陷阱与误读 ✅ 设计专业、可信的评测方案
我是有底线的