OpenAI的O3模型运行成本有多高？

OpenAI

性能确实出色，但代价过于高昂。据估算，运行一次OpenAI o3完整版（单个任务）需花费3500美元（基于ARC-AGI）。若要完成全部400个任务，则总费用将高达160万美元，这可让老黄乐开了花。这个测试里有一个名为ARC-AGI的基准，它包含了一系列极为复杂的任务，用于评估是否达到通用人工智能。其中，O3简化版的成绩为75.7%，而完整版则达到了87.5%。

根据ARCPrize的官方报告（图2-3），O3残血版每个任务花费20美元。报告中无意透露，满血版计算资源是其172倍，约需3500美元，但OpenAI禁止公开此信息。每个任务耗时13.8分钟，成本显得极为高昂。这一数据揭示了在高性能计算资源上的巨大投入，暗示了技术实现的复杂性和昂贵代价。

根据Lambda.AI最新公布的H100每小时2.19美元的价格，即使不考虑大客户通常能享受的三四折优惠，简单计算一下，3500美元可以购买大约1600个H100卡时（实际由于折扣因素，这个数字只会更多）。运行一个任务就需要1600个H100卡时，可见O3的运行成本相当高昂。然而，这也让我们认识到Reasoning模型的潜力和极限所在。这种高成本的背后，反映出模型在处理复杂任务时的巨大计算需求和性能表现。从另一个角度看，AI基础设施又能得到发展机会，这很不错。