OpenAI员工造反，背后策划者究竟是谁？

OpenAI

二更：Altman差不多就要赢了。到现在，OpenAI有550名员工公然反抗，他们写信给董事会，要求董事会全体马上辞职，让Sam Altman和Greg Brockman重新分别担任CEO和总裁。不然的话，大家都会跟着Altman投奔微软，微软显然很乐意接收。Ilya也在这封信上签了名。这就很有意思了，所有人都站出来反对的时候，挑起这次政变的人到底是谁？

更新：

当前，Altman在OpenAI内部号召力极强，不少员工很可能追随他加入微软，OpenAI正遭遇自成立起最大的危机。

微软

政变主谋Ilya Sutskever，堪称AI领域的奥本海默。

OpenAI内部事变，简单来说就是：董事会首席科学家伊利亚·苏茨克沃（Ilya Sutskever）觉得山姆·奥特曼（Sam Altman）背离初心，于是对其进行清算，把他的商业化阵营踢出OpenAI，以此来坚守OpenAI的初衷。大西洋月刊今日发布Inside the Chaos at OpenAI一文，揭露OpenAI内部存在分歧，这实则是意识形态方面的斗争。OpenAI首席科学家Ilya Sutskever是道德安全派的代表人物。如同曼哈顿工程里签署弗兰克报告、发起反核示威的科学家，他们惧怕AI，觉得人工智能会给人类带来生存危机，所以必须极为谨慎地管控。另一方是以Altman为首的技术乐观派，力推OpenAI快速商业化，对安全派观点颇为不屑。Altman对ChatGPT激进的商业化策略在OpenAI团队内部引发了极大争议，这也是他最终被踢出局的主因。OpenAI一开始更像一个专注于研究的机构或者智囊团体，其宗旨清晰表明，公司首要责任是对全人类负责，而非只对投资者和员工。然而，这种模式并没有持续下去。2019年，OpenAI成立了一家子公司，转型为有限利润模式，目的是筹集资金、吸引顶尖人才并走向商业化。不过，非营利性的董事会仍然掌控着公司。OpenAI的这些变化对其快速发展以及奥特曼令人惊愕的下台有着关键意义。奥特曼近期被董事会解职，这表明公司内部两种极端意识形态的权力争斗达到了顶点。硅谷有一方技术乐观派，充满快速商业化的活力。另一方是深刻担忧人工智能会给人类带来存在性威胁，主张必须极为谨慎控制的派别。这两派长期努力共存，偶尔也有摩擦。但据现任和前任员工称，在ChatGPT发布近一年前，这种脆弱的平衡就几近崩溃了。ChatGPT从外表上看像是有史以来最成功的产品之一，其增长速度超过了以往所有消费类应用程序，它仿佛单枪匹马地改变了数百万人对自动化威胁与前景的认知。不过这也促使OpenAI朝着完全不同的方向发展，使得现有的意识形态分歧更为严重。ChatGPT不但让产品盈利竞争变得更加激烈，还使公司的基础架构以及专注于技术风险评估和减轻工作的员工承受着前所未有的压力，这进一步恶化了OpenAI内部各派别的紧张关系。例如，首席科学家Ilya Sutskever（政变主要策划者）的安全团队，在GPT - 4和API发布之后，不得不与薅免费API额度的羊毛党展开智斗。他们本该致力于处理AI大模型的安全事务，却从未料到要做这些通常由互联网码农负责的日常工作。（难道这就是我Plus账号被误封的原因？）同时，研究团队对GPT - 4的发布颇为不满，觉得模型尚未做好安全措施就发布出去是极不负责任的行为。Altman和OpenAI总裁Greg Brockman鼓励更多商业化举措，这使得该公司首席科学家Ilya Sutskever愈发担忧OpenAI是否还坚守其章程，即把原则置于利润、股东以及任何个人之上，去创造有益的通用人工智能。但很明显，Altman没能始终坚持做到这一点。他把OpenAI的商业产品与筹款工作视为达成公司最终目标的手段。他告知员工，公司的模型还处于早期开发阶段，OpenAI应使其商业化并获取足够收益，以保证能在一致性和安全问题上无限制地投入资金。在被解雇的前几天，他还在大力宣传OpenAI的不断进步。他向英国金融时报表示，公司已着手开发GPT - 5，几天后又提及亚太经合组织（APEC）峰会上即将出现的惊人之事。他说道：就在过去数周，当我们揭开无知的面纱、推进探索前沿的时候，我才来到这个位置。能够做到这点是一生的职业荣耀。报道称，Altman打算从软银以及中东投资者那里募集数十亿美元资金来创建一家芯片公司。该公司将与英伟达等半导体制造商竞争，同时有助于降低OpenAI的成本。在一年的时间里，Altman助力OpenAI从混合型研究公司转型成为全面增长模式下的硅谷科技公司。在这样的背景之下，高层的紧张氛围攀升至顶点。2023年11月18日，Ilya把Altman单独拉进谷歌会议，宣读董事会的解雇决议，就此，AI界的这场政变大戏拉开了帷幕。