主要证据
- MathVista: Evaluating Mathematical Reasoning of Foundation Models in Visual ContextsS1 · 主要研究来源 · 论文 · 2023-10-03
- MathVista project pageS1 · 主要研究来源 · 其他来源
- MathVista benchmark repositoryS1 · 主要研究来源 · 代码仓库
该基准把视觉感知与组合式数学推理结合起来。初始研究显示前沿多模态模型与人类表现之间仍有明显差距,公开项目同时提供数据访问、评测代码与模型结果工具。
MathVista 引入 6,141 个视觉数学推理样例,来源包括 28 个既有多模态数据集和 3 个新建数据集,并据此系统评测 12 个基础模型在不同数学与视觉任务上的能力。
它把 AI4Math 评测从纯文本文字题和形式陈述扩展到图像中承载的数学信息,为后续多模态与奥赛级评测提供了重要参照。
重要性说明:MathVista 将视觉场景中的数学推理确立为独立评测目标,把图表、几何图形、科学图像等多模态任务整合成大规模基准,早于多模态数学评测成为通用能力维度。
arXiv 研究记录公开 MathVista,并报告其对基础模型的初始评测。
公开的 MathVista 仓库与项目页面提供基准数据访问和评测工具。E3 表示产物层级可检查,并不等同于所有报告分数都已获得独立验证。
当前没有记录的更正。