OpenAI大逃亡，AGI安全团队半数出走！奥特曼：攘外必先安内

文章预览

今年5月发布会后，安全团队负责人 Ilya Sutskever和Jan Leike曾前后脚在推特上官宣离职 。 加入Anthropic的Jan Leike曾公开指责OpenAI没有对AI安全投入足够的重视 ，「安全文化和流程已经让位于闪亮的产品」。 奥特曼曾经承诺的20%计算资源迟迟不到位到位，让他的团队始终在「逆风航行」。 Ilya和Jan Leike的离职，宣告着OpenAI「超级对齐」团队的正式解散。 几个月来，关于OpenAI安全团队的人事新闻也始终不断，包括 雇用前陆军上将Paul M. Nakasone ，以及 CMU教授Zico Kolter任职于董事会新成立的安全和保障委员会 ，还有 「打包」挖来AI安全公司Indent 。 种种招兵买马之举，让人好奇，奥特曼是否真的「良心未泯」、仍对AI安全有所关注，还是仅仅为了平息两位大佬离职后全网的指责。 在如此多的「大动作」之下，OpenAI安全团队的现状究竟如何？ 最近，前OpenAI研究 ………………………………