119B参数只激活6B,单题成本仅竞品1%:Mistral AI开源数学证明模型Leanstral 1.5全拆解

一、核心摘要

Mistral AI 于 2026 年 7 月 2 日正式发布 Leanstral 1.5 ,这是一款专为 Lean 4 形式化数学证明设计的开源模型。该模型采用 MoE(混合专家)架构,总参数量 119B ,但每次推理仅激活 6B(官方文档标注 6.5B) 参数,在多项核心基准测试中取得近乎饱和的表现,同时将单题求解成本压降至竞品的 约 1%

指标 数值
发布日期 2026-07-02
许可证 Apache-2.0(完全开源)
总参数量 119B
激活参数量 6B(6.5B)
架构类型 MoE(混合专家)
上下文窗口 256K tokens
API 价格 $0(免费端点)
模型权重 Hugging Face 开放下载

二、基准测试表现

2.1 miniF2F(形式化数学跨系统基准)

数据集 Leanstral 1.5 说明
miniF2F 验证集 100% 完全饱和
miniF2F 测试集 100% 完全饱和

miniF2F 涵盖从初等数学到 IMO 级别的挑战题,测试代数、组合数学和数论等多领域证明能力。Leanstral 1.5 达到了 100% 完成率,意味着该基准已被"刷满"。

2.2 PutnamBench(普特南数学竞赛)

模型 解决题数(/672) 单题成本 备注
Leanstral 1.5 587 ~$4 无自然语言引导
Seed-Prover 1.5 (high) 580 >$300 10 H20-days/题
Aleph Prover --- 54--68 成本远高
Goedel-Architect --- --- 无自然语言引导
AxProverBase --- --- ---

Leanstral 1.5 在 PutnamBench 上比 Seed-Prover 1.5 高出 7 题 ,且成本仅为对方的 ~1.3%

2.3 FATE 系列(抽象代数)

基准 级别 Leanstral 1.5 状态
FATE-H 硕士级 87% SOTA(当前最优)
FATE-X 博士级 34% SOTA(当前最优)

FATE 系列测试群论、环论、模论等高等抽象代数领域,Leanstral 1.5 在两个级别均创下新纪录。

2.4 FLTEval(费马大定理仓库实际 PR)

指标 Leanstral 1.5 前代 Opus 4.6
Pass@1 28.9 21.9 ---
Pass@8 43.2 31.9 39.6

在 FLTEval 上,Leanstral 1.5 超越 Opus 4.6(43.2 vs 39.6),且成本仅为后者的 1/7

2.5 测试时扩展性(Test-Time Scaling)

Leanstral 1.5 展现了形式推理模型中最强的测试时扩展能力:

Token 预算 PutnamBench 解决数
50K 44
200K 244
1M 493
4M 587

性能随 token 预算单调递增,从 50K 的 44 题到 4M 的 587 题------模型不会在长证明中放弃,而是持续推理、编辑文件、反复修正。


三、训练方法

Leanstral 1.5 采用 三阶段训练流程

阶段 1:Mid-training(中间训练)

在基础模型上进行领域适应性训练,注入大量 Lean 4 代码和数学证明语料。

阶段 2:SFT(监督微调)

使用高质量的人工证明和编译器验证通过的证明进行监督学习。

阶段 3:RL with CISPO(强化学习)

在两个环境中进行强化学习:

多轮环境(Multiturn Environment)

  • 模型接收定理陈述 → 提交证明 → 获取 Lean 编译器反馈 → 修正重试
  • 循环直到证明通过或预算耗尽

代码代理环境(Code Agent Environment)

  • 模型在原始文件系统中操作:编辑文件、运行 bash 命令、使用 Lean 语言服务器
  • 可处理长周期任务:补全仓库中的部分证明、构建辅助引理
  • 通过 SafeVerify 分支进行最终正确性验证

四、实际工程应用

4.1 AVL 树时间复杂度证明

Leanstral 1.5 成功证明了 AVL 树插入和删除操作的 O(log n) 时间复杂度保证

  • 使用结构归纳法镜像树的递归结构
  • 处理单子时间跟踪(TimeM monad)
  • 对重平衡路径进行穷举案例分析
  • 消耗 270 万 tokens ,经历 22 次上下文压缩
  • 最终建立每高度单位 48 步 + 常数的近乎紧致边界

4.2 Bug 发现

自动化流水线:Aeneas(Rust → Lean 翻译)+ Leanstral(属性推断 + 证明/证伪)

指标 数值
测试仓库数 57
标记违规属性 47
指向真实 Bug 11
GitHub 未报告的新 Bug 5

典型案例 :在 datrs/varinteger 库的 zigzag 解码 sign 函数中,输入 Std.U64.MAX(value + 1) 溢出,导致 debug 模式崩溃、release 模式静默数据损坏------这是传统测试和模糊测试通常遗漏的边界情况。


五、成本优势深度分析

5.1 成本对比(PutnamBench 单题)

模型 单题成本 相对 Leanstral 倍数
Leanstral 1.5 $4
Aleph Prover 54--68 13.5--17×
Seed-Prover 1.5 >$300 >75×

5.2 成本优势来源

  1. MoE 架构:119B 总参数但仅 6B 激活,推理计算量等同 6B 模型
  2. 高效训练策略:CISPO 强化学习使模型学会在有限尝试内收敛
  3. 测试时扩展:模型能持续推理百万级 tokens 而不崩溃,减少重启开销
  4. 免费 API:Mistral 提供 $0 价格的 API 端点,降低使用门槛

六、技术架构解读

复制代码
┌─────────────────────────────────────────────────┐
│              Leanstral 1.5 MoE 架构              │
├─────────────────────────────────────────────────┤
│  总参数: 119B  |  激活参数: 6B  |  上下文: 256K  │
├─────────────────────────────────────────────────┤
│                                                  │
│  ┌──────────┐   ┌──────────┐   ┌──────────┐    │
│  │ Mid-train │→ │   SFT    │→ │ RL(CISPO)│    │
│  │ 领域适应  │   │ 监督微调  │   │ 强化学习  │    │
│  └──────────┘   └──────────┘   └──────────┘    │
│                                     │            │
│                    ┌────────────────┴───────┐    │
│                    │                        │    │
│              ┌─────┴──────┐         ┌──────┴──┐ │
│              │ Multiturn  │         │ Code    │ │
│              │ Environment│         │ Agent   │ │
│              │ (证明/证伪) │         │ (文件系统)│ │
│              └────────────┘         └─────────┘ │
│                                                  │
├─────────────────────────────────────────────────┤
│  输出验证: SafeVerify 分支                       │
│  部署方式: Hugging Face 权重 / 免费 API          │
└─────────────────────────────────────────────────┘

七、竞品格局

维度 Leanstral 1.5 Seed-Prover 1.5 Aleph Prover Goedel-Architect AxProverBase
开发方 Mistral AI 字节跳动 --- --- ---
开源 ✅ Apache-2.0 --- ---
PutnamBench 587 580 --- --- ---
单题成本 $4 >$300 $54-68 --- ---
FATE-H 87% (SOTA) --- --- --- ---
FATE-X 34% (SOTA) --- --- --- ---
免费 API

八、投资与战略视角

8.1 技术趋势判断

  1. MoE 架构在垂直领域验证成功:Leanstral 证明了大总参数 + 小激活参数的 MoE 路线在数学推理这一高难度任务上同样有效,为垂直领域 MoE 模型提供了有力背书。

  2. 形式化验证走向实用化:从纯数学竞赛到真实代码库 Bug 发现,形式化方法正在跨越"学术玩具"到"工程工具"的临界点。AVL 树复杂度证明和 5 个新 Bug 的发现是标志性事件。

  3. 推理成本断崖式下降4/题 vs 300/题,75 倍差距意味着此前因成本不可行的大规模形式化验证场景将被解锁。

  4. 开源策略冲击商业模型:Apache-2.0 + 免费 API 的组合,对闭源证明模型(如 Seed-Prover)形成直接竞争压力。

8.2 应用前景

领域 潜在影响 时间线
密码学验证 协议正确性证明成本大幅降低 1-2 年
编译器验证 编译器正确性的形式化保证 2-3 年
智能合约审计 DeFi 合约漏洞自动发现 1 年内
操作系统内核 关键路径形式化验证 3-5 年
数学研究 辅助数学家证明 conjecture 正在发生
教育工具 自动生成/验证数学练习证明 1 年内

8.3 风险提示

  1. Lean 4 生态局限:模型仅针对 Lean 4,而工业界主流语言(C/Rust/Java)的形式化验证仍需额外翻译层(如 Aeneas)
  2. FATE-X 仅 34%:博士级抽象代数仍有大量未解空间,说明模型在极端抽象推理上仍有显著提升空间
  3. 竞争加剧:字节跳动 Seed-Prover 等竞品可能快速迭代,成本优势可能被追平
  4. 商业化路径不明确:免费 API + 开源模式下,Mistral AI 的商业回报路径依赖其平台生态

九、快速上手指南

复制代码
# 1. 安装 Mistral Vibe
uv tool install mistral-vibe
uv tool update mistral-vibe
vibe --setup

# 2. 安装 Leanstral 1.5
/leanstall
exit

# 3. 启动代理
vibe --agent lean

# 4.(可选)安装 Lean LSP MCP
# 在 ~/.vibe/config.toml 中添加:
# [[mcp_servers]]
# name = "lean-lsp"
# transport = "stdio"
# command = "uvx"
# args = ["lean-lsp-mcp"]
# tool_timeout_sec = 600

# 5. 开始证明

资源链接


十、结论

Leanstral 1.5 是形式化验证领域的里程碑式发布。它用 119B 总参数 / 6B 激活参数 的 MoE 架构,在数学竞赛、抽象代数、实际代码验证三个维度同时取得突破,并将推理成本压降至竞品的 1%。这不仅是技术层面的胜利------证明了"高效激活"比"堆参数"更关键------更是开源 AI 对商业模型的又一次降维打击。

对于关注 AI 推理能力发展的投资者和开发者而言,Leanstral 1.5 释放了三个核心信号:MoE 架构正在向所有垂直领域渗透、形式化验证正在从学术走向工程、开源模型的成本优势正在重塑竞争格局

相关推荐
bryant_meng1 个月前
【Hugging Face】The GitHub of Open-Source AI Models
人工智能·github·qwen·hugging face·clip
澳鹏Appen2 个月前
澳鹏携手Hugging Face,为开放ASR榜单引入非公开音频评测数据集
hugging face·模型评测·模型测试
一颗小树x2 个月前
Hugging Face 模型缓存文件 | 复制权重 | 通用化
hugging face·软链接·模型缓存·复制权重
李昊哲小课3 个月前
Stable Diffusion 保姆级教程|HF 国内镜像配置 + 一键安装 + 本地模型加载 + 完整代码
stable diffusion·hugging face
abigale033 个月前
Hugging Face 超全介绍(AI界的GitHub)
hugging face
盼小辉丶3 个月前
PyTorch实战(41)——Hugging Face在PyTorch中的应用
人工智能·pytorch·深度学习·hugging face
北冥SP5 个月前
Hugging Face介绍
hugging face
AI资源库5 个月前
解构嵌入模型之王:All-MiniLM-L6-v2 的文件树解密、蒸馏机制与工业级应用生态
langchain·nlp·bert·embedding·hugging face·fine-tuning·ai agent
liuyunshengsir6 个月前
huggingface-cli download 断点续传
linux·hugging face·魔塔社区