SKill测评:谁才是真正的Skill之王?

背景

2026年,Skill 的热度不减,已成为 AI 辅助编程领域的标配。在日常研发中,无论是沉淀个人经验,还是将团队的优秀范本标准化,将知识"蒸馏"为 Skill 已是大家的常规操作。但随之而来的问题是:一个 Skill 的"好坏",究竟由谁定义?评判它的标准又是什么?

带着这个困惑,我近期翻阅了大量技术资料,也一直在寻找一套可量化的评测体系。巧合的是,阿里近期开源了一款名为 Skill-Up 的测评工具------它专门面向 Agent Skill 开发者,支持在 Claude Code、Codex、Qoder CLI 等真实 Agent Engine 环境中验证 Skill 的功能正确性,并可将失败用例转化为精准的修复指引,同时支持本地与 CI 环境的持续回归。

于是,就有了下面这次实践。

Skill-up是什么

skill-up 是一个面向 Agent Skill 的命令行评测工具。

具体目录结构如下

php 复制代码
my-skill/
  SKILL.md              # 你的 Skill 定义
  evals/                # 评测目录
    eval.yaml           # 评测入口配置
    cases/              # 用例目录
      basic-test.yaml   # 一个评测用例
      edge-case.yaml    # 另一个评测用例
    fixtures/           # 测试资源(可选)
      repos/            # 仓库模板
      scripts/          # 评估脚本

安装方式

使用 Skill-upper,也是推荐的方式

ruby 复制代码
# Codex,全局安装
npx skills add https://github.com/alibaba/skill-up/tree/main/skills/skill-upper -g -a codex -y

也可以使用命令行安装,那你将可以使用纯命令运行,也很爽

ruby 复制代码
curl -fsSL https://raw.githubusercontent.com/alibaba/skill-up/main/install.sh | bash

关键命令

python 复制代码
# 运行所有用例
skill-up run ./evals/eval.yaml

# 只运行匹配的用例
skill-up run ./evals/eval.yaml --include-case-name "basic-*"

# 排除特定用例
skill-up run ./evals/eval.yaml --exclude-case-name "*-old" --exclude-case-name "*-deprecated"

# 指定 Engine 和模型
skill-up run ./evals/eval.yaml --engine codex --model openai/gpt-4

# 临时覆盖用例并行数
skill-up run ./evals/eval.yaml --parallelism 4

# 启用基线对比
skill-up run ./evals/eval.yaml --baseline

# 生成多种格式报告
skill-up run ./evals/eval.yaml --format json --format html --format junit

# 连续运行 3 轮,产物分别写入 iteration-1/ 到 iteration-3/
skill-up run ./evals/eval.yaml --iteration 3

# 自动检测模式(直接消费 Anthropic evals.json)
skill-up run --auto
skill-up run --auto --engine codex
skill-up run ./my-skill/ --auto

如此代表安装成功

通过codex也能唤起

创建并运行第一组评测

Demo测评的报告结果

相关推荐
IT规划师1 小时前
热点速递 | Chrome、Edge、Firefox、MDN 把 Web 最佳实践做成 Skill
ai编程
ZzT8 小时前
Claude Code 连续压缩 3 次,丢掉 33% 到 57% 的用户指令;/compact 后加一段提示词降到 0
ai编程·claude
ZhengEnCi9 小时前
小白用 AI 做官网完全指南:不用框架的六格清单,双击就能打开
前端·html·ai编程
oil欧哟10 小时前
Anthropic 工程长文精译:如何构建有效的 AI Agent(工作流与自主边界)|Oil Book
aigc·ai编程
逐梦苍穹10 小时前
DeepInfer 推理框架源码精讲:逐行读 DeepSeek 开源的推理引擎(2 小时 20 分视频+文字版)
人工智能·开源·ai编程·deepseek·claudecode·deepinfer·deepseekinfer
svyee10 小时前
Win11 砍掉的磁贴,我用一个周末写了回来(1.3MB 开源了)
开源软件·个人开发·ai编程
IT规划师10 小时前
AI 时代软件的终局:界面退位,契约上位
ai编程
oil欧哟21 小时前
AI Agent 子智能体协作实战:怎样用好 Subagent 分工与省 Token|Oil Book
aigc·ai编程
小虎AI生活1 天前
火柴人skill接入workbuddy实操:5 段提示词产出 3 条 MP4(附 6 组可抄文本)
aigc·ai编程
程序员鱼皮1 天前
格局!刚刚 DeepSeek 正式开放全家桶 API,咱都能复刻 DeepSeek App 了?
前端·aigc·ai编程