OpenAI新推理模型o3有哪些提升?

OpenAI

1个回答

写回答

自由的国度

2025-10-22 18:15

+ 关注

OpenAI
OpenAI

OpenAI在为期12天直播的最后一天推出了新的推理模型o3。o3是OpenAI的o1模型的升级版,中间跳过o2并非因为o2失败,而是据说o2这个名字已被其他组织使用。此次并非o3的正式发布,只是对o3模型进行预告,并给出该模型的一些早期评估结果。

OpenAI研究员称,o1是首个基于强化学习训练的大型推理模型,o3进一步扩展强化学习,模型效果有极为显著的提升。

首先,o3版本在编程能力上较o1版本有显著提升。在Codeforces和经SWE - bench Verified这两个编程竞赛的测试基准下,o3优势明显。在真实世界编程基准SWE - bench Verified里,o3的准确率达到71.7%,比o1高出20%。于Codeforces上,o3的得分达2727 ELO,在全球排名第175位,超越了该网站99.9%的人类选手。照o系列模型这样的发展态势,人类程序员或许真的面临失业风险。

人类
人类

o3在数学能力方面有了进步,其在AIME 2024数学竞赛中的准确度达96.7%,在博士级科学问题的GPQA Diamond上准确度也达到87.7%。

看了别家SOTA模型在GPQA Diamond上的成绩,谷歌最新的Gemini 2.0 Flash准确率仅62.1%,最新的Claude 3.5 Sonnet为65%。相比之下,OpenAI的o3准确率更高,处于遥遥领先的地位。

并且,在包含更具挑战性数学问题的FrontierMath上,o3把准确率从之前的2%提升到了25%。在这个测试基准里,数学题就算是专业数学家也得花费数小时甚至数天来解答。o3模型的数学能力强到前所未有的程度。

此外,o3在ARC - AGI测试方面取得了突破。ARC - AGI测试由非营利组织ARC Prize Foundation发布。ARC - AGI是当下全球最为关键的尚未解决的AI基准测试,其旨在衡量新任务上的泛化能力,这是智能的核心所在,而非针对可提前准备任务的技能。

ARC - AGI任务的解决既不需要专门的世界知识(像历史事实之类的),也不需要语言。唯一预设的先验知识是核心知识,例如物体性、基本拓扑、基础整数算术等概念。人类的核心知识是儿童在很早的时候(通常四岁之前)就获取的,并且为全人类所共有。ARC - AGI公开训练任务的目的在于让测试者能接触到解决ARC - AGI任务所需的全部核心知识先验内容。具体而言,ARC - AGI - 1包含1000个任务,这些任务被划分为4个集合,分别是公共训练集(含400个简单任务)、公开评测集(含400个难任务)、半私有测试集(100个难任务,虽未公开,但已暴露给商业API)、私有测试集(100个难任务,未公开,用于独立评估)。从ARC - AGI给出的示例来看,该任务是给出一些输入和输出的示例,让模型寻找规律,然后依据新的输入推测出正确的输出(有点类似图形推理)。

OpenAI的o3模型(基于ARC - AGI - 1公共训练集训练),在10000美元计算限制的半私有测试集里成绩达75.7%,在公共排行榜居首。若处于高计算配置下,o3模型的分数能达到87.5%。

以下为完整的测试结果:

ARC - AGI任务设定的预期目标为85%,o3模型已超出该目标。这表明AI能力有了惊人且重要的阶跃式提升,同时也体现出GPT系列模型前所未有的新任务适应能力。相比之下,ARC - AGI - 1从2020年GPT - 3的0%提升到2024年GPT - 4o的5%用了4年时间。据ARC Prize组织称,2025年将推出更难的ARC - AGI - 2任务。

o3要达到87.5%的性能,所需计算成本极高。不过这也说明,计算量增加时,新任务的性能确实会提升(至少能达到这个程度)。虽然每个任务成本高昂,但这些数据并非只是对基准进行暴力计算的结果。OpenAI的新o3模型在AI适应新任务能力方面有了重大飞跃。这不是渐进式的改进,而是真正的突破,意味着与大型语言模型(LLM)之前的局限相比,AI能力有了质的转变。o3是个能适应从未遇见过的任务的系统,可以说在ARC - AGI领域有着接近人类水平的表现。

o3为何能取得如此大的进步?Fran?ois Chollet指出,o3突破了大型语言模型(LLM)范式的根本局限,即无法在测试时重新组合知识。在他看来,LLM就像是矢量程序的存储库。当收到提示时,LLM会获取与提示映射对应的程序,并针对输入内容进行执行操作。LLM是一种借助被动接触人类创作内容,来存储和运用数百万有用小程序的方式。这种记忆、检索、应用的范式在具备合适训练数据时,虽能达成任意任务的任何技能水平,但无法适应新事物或即时学习新技能,ARC - AGI上表现不佳就是例证。要适应新事物得具备两样东西。其一为知识,也就是可供借鉴的可重用函数或程序,大型语言模型(LLM)在这方面有足够储备。其二是在面临新任务时,能把这些函数重新组合成全新程序,以模拟当下任务,程序合成这一特性是LLM长久缺失而o系列模型所弥补的。Fran?ois Cholle对o3的工作原理进行推测,认为其核心机制在于自然语言程序搜索以及在token空间内的执行。测试时,模型会在可能的思考链(CoTs)空间里搜索,对完成任务所需步骤加以描述,这或许与AlphaZero风格的蒙特卡洛树搜索有相似之处。就o3而言,其搜索可能由某个评估模型来引导。传统的大型语言模型(LLM)很难实现新颖性,而o3却能通过生成并执行自身的程序来解决这一问题,这里的程序(CoT)是知识重组的结果。虽然这并非测试时知识重组的唯一有效方法(也可以进行测试时训练或者在潜在空间搜索),但依据ARC - AGI的新指标来看,它是当前最先进的技术。另外,OpenAI不但推出了o3,还提供了性价比更高的o3 - mini。o3 - mini的编程与数学能力虽不及o3,但其推理成本较低。并且o3 - mini支持自适应思考时长,用户能够依据任务的复杂程度来调整推理工作量(低、中、高),从而能很好地应用于各类实际场景。

与此同时,OpenAI也推出了o系列模型的新对齐策略:审慎对齐(deliberative alignment)。这种新的对齐方式直接教导模型安全规范,并且训练模型在作答之前清晰回忆并精准推理这些规范。通过这种方法来对OpenAI的o系列模型进行对齐,无需人工编写思考链或者答案,就能高度精准地遵循OpenAI的安全政策。此外,这种对齐方法在增强对越狱(jAIlbreak)的鲁棒性的同时,降低了过度拒绝率,还提升了分布外泛化能力。

需说明,o3尚未正式开发,不过可申请测试o3 - mini。

最后一天,OpenAI又带来新惊喜。不管怎样,OpenAI一直在推进AGI,当下大家还只能是追随者。

举报有用(4)分享收藏

Copyright © 2025 IZhiDa.com All Rights Reserved.

知答 版权所有 粤ICP备2023042255号