主要证据
- Llemma: An Open Language Model For MathematicsS1 · 主要研究来源 · 论文 · 2023-10-16
- Llemma models, Proof-Pile-2 data and training code repositoryS1 · 主要研究来源 · 代码仓库
Llemma 发布面向数学的开放语言模型与训练数据
该项目在 Proof-Pile-2 上继续预训练 Code Llama；该语料混合数学网页、科学论文与数学代码。
发生了什么？
Llemma 发布 7B 与 34B 数学专用模型，在 MATH 上超过当时已知开放基础模型，并在无任务专项微调下展示工具使用与形式证明能力。
为什么重要？
它为社区提供开放基础模型与语料，支持研究数学专项预训练如何迁移到非形式推理、工具使用和形式证明。
重要性说明：Llemma 建立了可复现的开放数学语言模型栈，包括模型权重、Proof-Pile-2 与训练代码。
历史脉络
证据与状态一览
- 重要性
- H2 · 领域里程碑
- 验证状态
- 论文已发布
- 证据等级
- E3 · 可检查工件
- AI 角色
- 仅计算支持
- 形式保障
- 有形式化工件
贡献与验证
- 数学新颖性
- 基准结果
- 接口
- 非形式化, 形式化, 符号
- AI 贡献
- 训练后的模型执行数学推理、工具使用与形式证明生成。
- 人类贡献
- 研究者构建 Proof-Pile-2、继续预训练模型并公开完整产物。
- 验证状态
- 论文已发布 · E3 · 可检查工件 · 有形式化工件
- 最后审阅
- 2026-09-11
技术细节
- 系统
- llemma
- 机构
- eleutherai, princeton-university
- 数学问题
- math-benchmark
- 方法
- continued-pretraining, math-corpus, language-model
全部来源与工件
- Llemma: An Open Language Model For MathematicsS1 · 主要研究来源 · 论文 · 访问于 2026-09-10
- Llemma models, Proof-Pile-2 data and training code repositoryS1 · 主要研究来源 · 代码仓库 · 访问于 2026-09-11
验证历史
- 2023-10-16 · 论文已发布 · E2 · 研究记录
Chronicle 依据所引 primary / official source 记录该事件；该状态不表示 Chronicle 已完成独立验证。
- 2026-09-11 · 论文已发布 · E3 · 可检查工件
本轮 corpus 刷新增补了由作者或发布机构维护、可直接检查的公开产物。E3 表示证据已达到可检查 artifact 层级，并不等同于底层科学或数学主张已获得独立验证。
更正
当前没有记录的更正。