中山大学、香港科技大学、上海交通大学和华为诺亚方舟实验室的研究人员提出了一种名为 atomthink 的新框架，旨在提升多模态大语言模型 (mllm) 解决s Y & I T T Y 8 ,高级数学推理问题的能力。该框架通过将“慢l W x # f w y \ *思考”策略融入mllm，显著提高了模型在基准数学测试中的性能，并具有良好的可迁移性r 7 6 t i 4 7。
At_ = EomThink 框架的核y # 7 : C Y , M心在于其对“原子步骤”的关注。“原子步骤”指的是语义上不可再分的最小推理单元。该框架包含三个关键组件：多模态注释引擎、原子步骤指令微调和策略搜索。
挑战与创新：
现有方法通常依赖于精心W | 6 / =设计的提示来激发模型的思维链 (CoT)，3 7 – J R但忽略了推理链中中间步骤的质i | | m 8量。AtomT` J z – 0hC x { 3 $ n 2 5ink 则通过原子步骤质量评估策略，对每个步骤进行细致分析，从而识别并改~ a M s l ] L W进薄弱环节。该策略借鉴了GPT-4o的推理行为，构建了一个规A ! w p i { \范^ K o ) ` ;的推理能力集合，并利用结果监督和重映射来评估模型在不同能力项上的得分。
AtomTh) 1 D Y sink 框架详解：
- 多模态注释引擎: 该引擎利用动态提示和短 CoT 增强策略，从现有数据集中生成高质量的长 CoR \ # ( [T 数据。它通过GPT-4o辅助，将原始推理过程分解成多个原子步骤，并创建了 AtomMATH 数据集 (包括AMATH-SFT 和 AMATH-PRM 两个子集)。
-
原子步骤微调: 该步骤对 MLLM 进行指令微调和过程监督训练 (PRM)，以增强其解码能力，并使其学习近似马尔可夫决策过程的输出格式。
-
策略搜索: 为了从多个候选` R # | # O # z F步骤中选择最佳路径，AtomThink 框架采用了路径维度搜索 (多数投票、Best-of-N) 和步骤维度搜索 (贪心算法、Beam Search)。
实验结果与结o R Q u论：
实验结果表明，AtomThink 框w ] I D X K b ( k架在 MathVista 和 MathVerse 两个基准测试中显著提升了模型的性能。与基线模型相比，AtomThi8 ! / . / m Hnk 在 QuickThink (快速推理) 模式下已经取得了显著改进；而在 SlowThink (慢速推理，利用 Beam Sea* W C / = ^ k . grc* J S @ W c #h) 模式下，s a a Z {性能提升更为显著，甚至超过了一倍。 Be^ L x Z lst-of-Nc Q k ( \ 策略结合平均得分聚合，取得5 : p 5 c了最佳性能。 研究还验证了 Test-time scaling law 在多模态数学推理任务中的存在。
该研究为构建更强大的慢思考模型提供了新的思路，也为解决复杂数| [ C D W t O @ w学推理问题提供了有效的解决方案。论文及代码即将开源：
- 论文：https://www.php.cn/link/5c3165e90eb8727c7dd0f947 G h L34M k l k G d 2 O fcbd2bba
- 主页 (即将开源): https://www.php.cn/link/1852a2083dbH m r , A 0e1c2ec33ab9366feb2862
以上就是多模态慢思考：分解原子步骤2 q ! [ o以解决复杂数学推理的详细内容！
原创文章，作者:【好易之】如转载请注明出处：https://www.zhengjiaxi.com/zxwd/itzx/119800.html
如有侵权，请邮件联系 aoduoye@qq.com 删除。
本站发布的文章及附件仅限用于学习和研究目的;不得将上述内容用于商业或非法用途，否则后果请用户自负。
本站信息来自网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。
如果您喜欢该程序，请支持正版软件，购买注册，得到更好的正版服务。如有侵权请邮件与我们联系处理。
微信扫一扫 
