美团开源5600亿参数大语言模型LongCat刷新SOTA水平
美团开源 LongCat-Flash-Prover 大模型:5600 亿参数,刷新两项 SOTA 水平 在 AI 攻克数学证明难题的征途上,又迎来了一个重量级选手。近日,美团正式开源了名为 LongCat-Flash-Prover 的大模型。这个模型可不简单,它采用了 MoE(混合专家模型)架构,参
美团开源 LongCat-Flash-Prover 大模型:5600 亿参数,刷新两项 SOTA 水平

在 AI 攻克数学证明难题的征途上,又迎来了一个重量级选手。近日,美团正式开源了名为 LongCat-Flash-Prover 的大模型。这个模型可不简单,它采用了 MoE(混合专家模型)架构,参数量达到了惊人的 5677 亿,其核心目标直指一个颇具挑战性的领域:解决复杂的数学证明问题。
技术框架:如何让模型“严谨”推理?
那么,如此庞大的模型,是如何确保其推理过程可靠、避免“胡说八道”的呢?关键在于其引入的“混合专家迭代框架”。这个框架专门用于生成大规模且高质量的形式化推理轨迹。简单来说,就是让 AI 的思考过程变得像数学家写证明一样,步步为营,有章可循。
为了实现这一点,模型整合了 Lean4 定理证明器,并采用了一套基于抽象语法树的多阶段严格验证流程。这套组合拳,本质上是给模型的推理过程加上了多重“紧箍咒”,从而有效消除了常见的“幻觉”现象,让每一步推导都经得起推敲。
训练秘诀:数据、算法与防作弊机制
光有框架还不够,训练过程的精妙设计才是模型能力的根基。LongCat-Flash-Prover 的训练之路颇具巧思。首先,它利用前述的混合专家迭代框架来自主生成高质量的“冷启动”数据,解决了初期训练数据匮乏的难题。
进入强化学习阶段后,挑战随之而来——如何稳定 MoE 模型在长程、复杂任务上的训练?研究团队为此引入了 HisPO 算法,专门用来稳住训练过程。更重要的是,他们还加入了定理一致性和合法性检测机制。这个机制的作用,就好比考场上的防作弊系统,能够有效防止模型为了获取高奖励而“钻空子”,也就是业内常说的“奖励黑客行为”,从而确保学到的都是真才实学。
性能表现:刷新两项关键基准
说了这么多,实际效果究竟如何?基准测试结果给出了有力的回答。在 MiniF2F-Test 这项数学证明测试中,该模型取得了 97.1% 的优异表现,而且平均仅需 72 次推理尝试,效率颇高。
更具挑战性的是 PutnamBench 任务,这是基于国际大学生数学竞赛题构建的基准。在这项测试中,LongCat-Flash-Prover 成功解决了 41.5% 的问题,平均使用 118 次推理尝试。这两项成绩,均刷新了当前该领域的 SOTA(最高技术水平)记录,实力不容小觑。
资源获取
目前,该模型已正式开源,感兴趣的开发者与研究团队可以通过以下地址获取相关资源:
GitHub:https://github.com/meituan-longcat/LongCat-Flash-Prover
Hugging Face:https://huggingface.co/meituan-longcat/LongCat-Flash-Prover
