OpenAI安全团队解散，AI发展速度与安全咋平衡？

OpenAI

OpenAI的核心安全团队超级对齐居然解散了，这在我们眼里太不可思议了！我们始终秉持人民至上，生命至上，安全第一的理念，任何时候进度和效益都得服从安全。不同的文化和社会环境下，价值观差异很大。就像疫情刚开始时，我们倡导戴口罩，西方却倡导自由。此事一出就成了热门话题。先是首席科学家伊尔亚离职，团队负责人杨·莱克也随后宣布离开，还曝出封口协议一事。这一系列情况使OpenAI成为众人讨论焦点，背后反映出AI发展速度与安全性之间的矛盾这一重大问题。

大家都知道科技公司里安全团队的作用吧。他们不直接参与产品制作，但工作意义非凡。他们如同把握正确方向的引导者，防止人们因走得太快而走错路甚至坠入悬崖。要是没有他们，人们或许能走得更快，可也可能因忽略安全而受伤。OpenAI有个超级对齐团队，其职责为评估与监督所研发的AI，避免AI失控。然而这个团队解散了，这让众人开始担忧OpenAI的AI安全性。莱克离职后于社交媒体抨击OpenAI及其领导层，称他们只看重光鲜的产品，却忽略了安全文化与流程。

另外，OpenAI被爆出员工离职时要签含不贬损承诺的协议，拒签就得舍弃公司股权。这一做法遭受公众质疑，CEO山姆·奥特曼虽承认该条款且致歉，不过这也体现出公司对内部言论的管控以及对利益的追逐。长远而言，安全部门旨在保障公司长期稳定发展。若公司追求短期速度，就会弱化安全部门的作用，甚至舍弃该部门；若着眼长期速度，则需强化其作用。所以，OpenAI的这一操作，我们只能理解为公司特定阶段的短期策略。

AI

OpenAI核心安全团队被解散，还出现封口协议事件，这体现出AI发展时速度和安全之间存在矛盾。我们认为，在谋求技术创新与市场领先地位之际，怎样平衡安全、道德伦理，是所有AI企业都要深入思考的问题。我们期望OpenAI在未来发展时能找到恰当的平衡点，保障AI技术安全、可靠、可持续地发展。