主要观点总结
前OpenAI高级顾问Miles Brundage发表长文,详细解释了自己离开OpenAI的原因。他希望通过非营利组织在AI政策研究和倡导上发挥更大影响力,强调政策和外部研究的重要性。他提出了离开OpenAI的多个关键因素,包括机会成本、减少偏见以及希望在更大程度上影响整个生态系统等。同时,他也对AGI的未来提出了自己的见解和预测。
关键观点总结
关键观点1: 前OpenAI研究主管、AGI准备工作的高级顾问Brundage决定离开OpenAI。
他计划加入非营利组织,将重点放在AI政策研究和倡导上。
关键观点2: Brundage离职的主要原因包括机会成本、减少偏见和希望在更大程度上影响整个生态系统。
他认为在行业内很难独立发表观点和从事重要研究课题,而且行业内部的声音可能过于单一。
关键观点3: Brundage强调了政策和外部研究在AI发展中的重要性。
他认为政策研究有时候在外部进行更加有利,特别是在安全和保障方面。
关键观点4: Brundage对AGI的未来持有技术乐观主义态度。
他认为在未来几年内,人工智能可能会实现足够的经济增长,但也可能带来一些挑战和风险。
关键观点5: Brundage认为人们需要更多的思考、辩论和政策讨论来应对未来的挑战。
他提到了文明停滞的风险以及民间社会和政府的技术专业知识不足的问题。
文章预览
新智元报道 编辑:乔杨 【新智元导读】 6年元老为何加入离职大军?AGI的未来,我们到底需要面对什么?OpenAI前高级顾问Miles Brundage最近发表长文,细述了自己的思考和感受。 OpenAI的「员工叛逃」还没有结束。 近日,OpenAI又有一位6年元老、研究主管Miles Brundage发表长文官宣离职,并详细解释了自己为何「出走」。 作为一家年轻的AI独角兽,成立于2015年的OpenAI如今刚刚9岁,因此在公司待了6年之久的Brundage足以被称为「元老」,见证了OpenAI如何一路起伏、筚路蓝缕地走到今天。 在博文中,Brundage也在开头强调:为OpenAI的高管和董事会提供建议,为AGI的到来做准备,这实际上是他梦想中的工作;甚至就在2015年OpenAI刚成立时,Brundage兴奋得一夜不睡,写下一篇博文强调这个组织的重要性。 原文地址:https://www.milesbrundage.com/blog-posts/archives/12-2015 因
………………………………