arXiv / EleutherAI精选AI 评分 91
Llemma 发布开放数学专用基座模型与 Proof-Pile-2,把数学预训练、工具使用和 formal proving 放进同一开放栈
Llemma 在 Code Llama 基础上继续预训练 Proof-Pile-2——由科学论文、数学网页与数学代码组成的开放数学语料——并发布 7B / 34B 模型、数据和复现实验代码。论文报告 Llemma 在等参数量下超过当时已知开放 base models,并在无需额外 fine-tuning 时就表现出 tool use 和 formal theorem proving 能力。
推荐理由:它建立了早期可复现的 open math-LM stack:模型、Proof-Pile-2、训练代码同时开放,并展示数学语言建模能跨 informal reasoning、tool use 与 formal proving 迁移。
阅读原始来源 ↗