主要观点总结
OpenAI的AGI筹备团队负责人Miles Brundage宣布离职并计划创建自己的非营利组织或加入现有的组织专注于AI政策研究和倡导。同时，OpenAI决定解散其超级对齐团队并面临高层动荡及改组。公司面临AI安全问题和争议，包括内部批评和外部质疑其安全政策的声音。
关键观点总结
关键观点1: AGI筹备团队负责人离职
Brundage宣布离职并计划创建非营利组织专注于AI政策研究和倡导，原AGI准备团队成员将被重新分配到其他团队。
关键观点2: OpenAI解散了超级对齐团队
该团队专注于AI的长期风险，解散消息正值公司高层动荡和重组之际。
关键观点3: OpenAI面临安全问题和争议
包括外部对OpenAI安全政策的质疑，以及内部员工对公司产品和安全流程的关注。AI安全问题引发了越来越多的关注，包括处理不当可能会带来的潜在风险。
关键观点4: 管理层变动和批评
OpenAI的高管变动包括首席技术官、研究主管和研究副总裁的离职。此外，公司面临关于如何平衡利润和安全性的质疑，包括创始人Sam Altman的行为引发的不满。
关键观点5: AI领域的专家观点
包括诺贝尔奖获得者Geoffrey Hinton对OpenAI安全政策的批评和对创始人Altman的担忧，以及马斯克对Altman的不信任和对OpenAI的担忧。
文章预览
AI领头羊OpenAI正在解散其“AGI（通用人工智能）筹备”团队，团队主管将离职，希望在外部继续该领域的研究。 OpenAI的AGI筹备团队负责建议公司如何处理越来越强大的AI技术，以及当今世界是否准备好管理这些技术。 CNBC报道，OpenAI的AGI筹备团队负责人Miles Brundage在周三通过Substack发布的帖子中宣布了这一消息，并表示他将离职。 Brundage表示，他离职的主要原因是机会成本变得太高，他认为在外部进行研究会更具影响力，并且他希望减少偏见。他还表示，OpenAI及世界在AGI筹备方面“尚未准备好”。而Brundage计划创建自己的非营利组织，或者加入现有的组织，专注于AI政策研究和倡导。他补充说， “AI不太可能在没有共同努力确保其安全和有益的情况下达到最佳状态。” 根据帖子内容，原AGI准备团队的成员将被重新分配到其他团队。 OpenAI发言人向媒体
………………………………
