IT之家 5 月 1 日消息,深度求索(DeepSeek)昨日(4 月 30 日)在 AI 開源社區(qū) Hugging Face 上,發(fā)布名為 DeepSeek-Prover-V2-671B 的新模型,隨后在 GitHub 等平臺上公布了論文信息。

IT之家援引論文介紹,DeepSeek-Prover-V2 是一款專注于形式化數(shù)學推理的開源大型語言模型,基于 DeepSeek-V3-0324,通過遞歸定理證明管道生成初始數(shù)據(jù)。

Deepseek 推出了 DeepSeek-Prover-V2-671B(結合 V3 基礎大模型)、DeepSeek-Prover-V2-7B(增強模型)兩個模型,以及 DeepSeek-ProverBench 數(shù)據(jù)集。

DeepSeek-Prover-V2-671B 采用和 DeepSeek V3-0324 相同的架構,并非用于常規(guī)對話或者推理,而是用于形式化定理證明、專門增強數(shù)學能力的模型。

DeepSeek 團隊首先引導 DeepSeek-V3 模型將復雜定理分解為一系列子目標(subgoals),整合非形式與形式化數(shù)學推理,在 Lean 4 平臺上形式化證明步驟。

接著,利用一個較小的 7B 參數(shù)模型處理子目標的證明搜索,減輕計算負擔。最終,結合完整的逐步證明與 DeepSeek-V3 的思維鏈(chain-of-thought),形成強化學習的“冷啟動”數(shù)據(jù)。

在訓練中,團隊篩選出一批 7B 模型無法直接解決但子目標已被證明的難題。通過整合子目標證明,形成完整的形式化證明,并與 DeepSeek-V3 的推理過程對接,生成合成數(shù)據(jù)。

隨后,模型微調(diào)這些數(shù)據(jù),并通過強化學習進一步提升能力,以二元反饋(正確或錯誤)作為獎勵機制。最終,DeepSeek-Prover-V2-671B 在神經(jīng)定理證明領域創(chuàng)下新高,在 MiniF2F-test 數(shù)據(jù)集上通過率達 88.9%,在 PutnamBench 數(shù)據(jù)集中解決 658 個問題中的 49 個。

DeepSeek-Prover-V2:AI數(shù)學推理新王者,88.9% 通過率設新標桿

團隊還發(fā)布了 ProverBench 基準數(shù)據(jù)集,包含 325 個形式化數(shù)學問題。其中,15 個問題源自近期 AIME 競賽(AIME 24 和 25),涉及數(shù)論與代數(shù),代表高中競賽難度。

其余 310 個問題則來自精選教材和教學內(nèi)容,涵蓋線性代數(shù)、微積分、概率等多個領域。這一數(shù)據(jù)集旨在為高中競賽和本科數(shù)學提供全面評估標準,推動模型在多樣化場景下的測試與應用。

標題:DeepSeek-Prover-V2:AI數(shù)學推理新王者,88.9% 通過率設新標桿

地址:http://liuxuerexian.com/kongqinen/211972.html