Ilya Sutskever的安全超智慧AI研究重点是什么?

AI

1个回答

写回答

于盼准基

2025-09-27 16:40

+ 关注

公司
公司

离开后他创立了一家名为安全超智慧的初创公司。这家公司专注于研究和开发安全的超级智能技术,旨在推动人工智能的可持续发展,确保其对社会的积极影响。

在12月13日的神经信息处理系统大会上,他重点阐述了以下见解:AI模型训练数据即将耗尽。数据如同AI的化石燃料,我们正面临数据枯竭的高峰。未来可能无数据可用,这预示着AI模型的预训练将难以为继。为应对这一挑战,研究人员积极探索替代方案,例如生成合成数据,或在有限数据基础上进行更复杂的计算,以提高AI模型的表现和响应质量。AI未来会怎样?尽管算力和算法不断快速进步,是AI训练的核心,但数据的发展却未能同步跟上AI技术的步伐。AI研发者迫切需要数据,已从互联网收集大量信息,现转向网站所有者以获取更多资源。研究显示,在2023至2024年间,全部数据的5%和高质量数据源的25%将限制主流AI大模型的访问。这一趋势表明,数据获取正变得愈加困难,但也凸显了优质数据对AI发展的重要性。随着数据资源逐渐匮乏,AI领域的先锋们正竭力探索替代方案。例如,OpenAI的CEO山姆·奥特曼提出利用AI生成的合成数据。他进一步表示,OpenAI新发布的o1模型具备推理能力,能在作答前综合分析多种可能的答案。奥特曼认为,这一进展标志着AI技术的重大飞跃,将为未来的发展奠定重要基础。

安全超智能AIIlya认为,随着推理能力的提升,AI系统将具备更强大的代理功能。他认同奥特曼的看法,即AI智能体将是未来发展的关键方向。然而,Ilya的研究重心在于安全超智慧,即开发出一种思考和推理能力超越人类的超级智能AI,确保其安全性是他的首要任务。推理和思考型AI将逐渐被不可预测型AI取代。例如,棋类AI就是典型例子。即使是人类顶尖的棋类大师,也无法预知AlphaGo的下一步棋路。这种变化正悄然发生。伊利亚认为,未来的AI系统将基于有限数据来理解世界,并且不会造成混乱。然而,他并未详细说明如何实现超级智能AI,以及何时能够达成这一目标。

举报有用(4)分享收藏

Copyright © 2025 IZhiDa.com All Rights Reserved.

知答 版权所有 粤ICP备2023042255号