在識別推理錯誤步驟能力上超越GPT-4o。

阿里云通義開源全新數(shù)學(xué)推理過程獎勵模型Qwen2.5-Math-PRM

2025-01-17 13:11:33發(fā)布     來源:多知    作者:Doris  

  多知1月17日消息,通義千問Qwen宣布開源全新的數(shù)學(xué)推理過程獎勵模型Qwen2.5-Math-PRM,包括72B和7B兩個版本,將提升大型語言模型(LLMs)在數(shù)學(xué)推理過程中的可靠性和可信度,自動識別推理過程中的錯誤,如計算或邏輯錯誤,這些錯誤可能導(dǎo)致不正確的結(jié)論,即使最終答案正確,也可能削弱模型推理過程的可信度。

  在識別推理錯誤步驟能力上,Qwen2.5-Math-PRM以7B的小尺寸超越了GPT-4o。同時,團隊還開源了首個步驟級的評估標(biāo)準(zhǔn) ProcessBench,此項評估標(biāo)準(zhǔn)填補了大模型推理過程錯誤評估的空白。

  據(jù)了解,為更好衡量模型識別數(shù)學(xué)推理中錯誤步驟的能力,通義團隊提出的全新評估標(biāo)準(zhǔn)ProcessBench。該基準(zhǔn)由3400個數(shù)學(xué)問題測試案例組成,其中還包含奧賽難度的題目,每個案例都有人類專家標(biāo)注的逐步推理過程,可綜合全面評估模型識別錯誤步驟能力。這一評估標(biāo)準(zhǔn)也已開源。