OpenAI大逃亡，AGI安全团队半数出走！奥特曼：攘外必先安内

声明：本文来自于微信公众号新智元，作者：新智元，授权转载发布。

尽管不断招兵买马，依旧挡不住OpenAI的安全团队集体出走。半数员工已离职、公司处在风口浪尖，奥特曼却在此时选择对内部员工展开安全监控。

今年5月发布会后，安全团队负责人Ilya Sutskever和Jan Leike曾前后脚在推特上官宣离职。

加入Anthropic的Jan Leike曾公开指责OpenAI没有对AI安全投入足够的重视，安全文化和流程已经让位于闪亮的产品。

奥特曼曾经承诺的20%计算资源迟迟不到位到位，让他的团队始终在逆风航行。

Ilya和Jan Leike的离职，宣告着OpenAI超级对齐团队的正式解散。

几个月来，关于OpenAI安全团队的人事新闻也始终不断，包括雇用前陆军上将Paul M. Nakasone，以及CMU教授Zico Kolter任职于董事会新成立的安全和保障委员会，还有打包挖来AI安全公司Indent。

种种招兵买马之举，让人好奇，奥特曼是否真的良心未泯、仍对AI安全有所关注，还是仅仅为了平息两位大佬离职后全网的指责。

在如此多的大动作之下，OpenAI安全团队的现状究竟如何?

最近，前OpenAI研究员Daniel Kokotajlo接受了《财富》杂志的独家专访。他表示，情况并不乐观，原AGI安全团队中近一半的员工已经离职。

由于部分研究人员担心，AGI可能逃脱人类控制并对全人类构成生存威胁，因此OpenAI自成立以来就雇用了大量研究人员，专注于AI安全领域。

根据Kokotajlo的说法，这支队伍最近正因辞职而人数锐减，其中包括OpenAI联合创始人、ChatGPT架构师John Schulman和Scaling Law论文共同作者之一Jeffrey Wu。

John Schulman已入职Anthropic，Jeff Wu的领英显示他7月已离职，目前未透露去向。

此外，离职的还包括以下员工:

- Jonathan Uesato，GPT-4o的核心贡献者之一，曾在DeepMind Gemini团队工作

- Jan Hendrik Kirchner，GPT-4技术报告的共同作者之一，8月已入职Anthropic

- Yuri Burda，已在OpenAI任职8年，今年7月后离职并加入Anthropic

- Todor Markov，GPT-4o的核心贡献者之一，已在OpenAI任职近6年，今年6月离职

- Steven Bills，曾参与ChatGPT的开发，已加入Anthropic

Kokotajlo本人是一名哲学专业的博士生，于2022年加入OpenAI担任治理研究员，并于4月辞职，因为他对公司在构建通用人工智能系统方面的负责任行为失去了信心。

他在接受采访时表示，2024年出现了缓慢而稳定的离职潮。大约30名AI安全方面的员工中，现在只剩下16人左右。

（离职潮）并不是一个协调一致的事情，我认为只是大家在个体层面上放弃。

这些离职背后的意义可能不止于科技公司中常见的跳槽。这可能说明，OpenAI对技术风险的谨慎程度逐渐滑坡，以及奥特曼主导的盈利动机可能导致危险行为。

根据The Information之前的披露，OpenAI尚未实现收支平衡，2024年度的净亏损可能高达50亿美元。因此，奥特曼强烈的盈利动机也是事出有因。

纽约时报在今年6月的报道中也提到，Kokotajlo认为科技巨头们开发AGI的竞赛是鲁莽的。

他担心，OpenAI会不顾一切地向前推进，并合理化我们的行动，但世界还没有准备好，我们也没有准备好。

OpenAI是从什么时候开始变化的?在Kokotajlo看来，事情还要追溯到去年11月的那场宫斗。

作为CEO的奥特曼被解雇后又迅速复职;随后，董事会中专注于AGI安全的三名成员被撤换。

那件事算是尘埃落定。之后就没有回头路了。

Kokotajlo还补充说，虽然他无法接触到幕后发生的事情，但感觉自那时起，奥特曼和最近请长假休息的总裁Greg Brockman一直在巩固权力。

那些主要关注AGI安全和准备工作的人正在被日益边缘化……从某种意义上说，这背叛了我们在2022年制定的计划。

尽管如此，Kokotajlo并不后悔最初加入OpenAI，只是后悔自己离开得太迟:我在那里学到了很多有用的东西，我觉得自己可能产生了积极的影响。

目前，Kokotajlo还有朋友留在OpenAI继续从事AGI安全相关的工作。

但对于那些留在公司的人，Kokotajlo警告说，在科技巨头竞相开发AGI的过程中，要防止群体思维，即所谓的合理观点是由大多数人的观点和公司高层制定的激励措施所决定的。

正因如此，大多数科技公司会认为——他们赢得AGI竞赛会造福人类。这看似荒谬，但正是激励措施所导出的结果。

OpenAI正在招人调查内部员工

就在离职潮的进行时中，Business Insider又爆出了一则猛料——OpenAI开始监控调查内部员工，以应对内部的安全威胁。

他们最近发布了一则招聘信息，寻找一名技术方面的内部风险调查员，以强化组织对内部安全威胁的防御。

招聘信息称，工作职责包括分析异常活动、检测和缓解内部威胁，并与人力资源和法律部门合作调查可疑活动。

OpenAI如今正处于AI安全的风口浪尖，内部员工和立法者都纷纷表示担忧，质疑公司是否采取足够措施确保其技术不会被用于造成伤害。

与此同时，OpenAI表示，已发现来自某些国家的关联行为者试图利用自己的AI模型进行恶意行为。OpenAI称已中断这些行动并终止了相关方的账户。

根据《纽约时报》2023年的报道，曾经有黑客入侵OpenAI内部的消息系统，并窃取关于AI技术设计的机密信息。公司高管在去年4月的全体会议上向员工透露了这件事。

除了黑客组织外，这则招聘信息似乎表明，OpenAI也担心来自内部员工的威胁，尽管尚不清楚这到底是哪种形式的威胁。

一种可能性是，OpenAI只是想保护与技术有关的商业机密。

招聘信息显示，内部风险调查员是OpenAI向白宫做出的AI安全自愿承诺的一部分，即投资于内部威胁防护措施，以保护专有和未发布的模型权重。

在去年6月的一封公开信中，现任和前任OpenAI员工表示，他们感到在表达对AI安全的担忧时受到了阻碍。信中呼吁 OpenAI保证公众对其产品危险的警告权。

尚不清楚风险调查员负责实施的数据丢失防护控制是否涵盖这种类型的员工告密行为。