主要观点总结
本文讨论了OpenAI的六年元老Miles Brundage关于人工智能（AI）发展的观点。他提出当前AI的发展速度与社会对其理解和塑造的速度之间存在明显差距，因此主张为AI发展安装一个「刹车」。他强调，AI的进步速度是一个棘手的问题，因为涉及到不同的规模和层面上的控制，如单个公司、一个国家或一组国家，甚至全球范围。同时，他也提到对AI进步的争议和争议焦点。他提出了许多关于AI发展的难题，呼吁政策制定者要有能力掌控AI的发展速度。
关键观点总结
关键观点1: 人工智能发展速度的争议和挑战
文章讨论了人工智能发展的速度问题，这是一个热门但棘手的话题。人工智能的进步速度在不同领域呈现出不同的态势，并且在很大程度上超越了人类的预期。
关键观点2: AI发展速度的专家观点
文章介绍了Miles Brundage的观点，他认为在AI发展的不同方面上存在不同的风险和挑战。他强调为了应对这些挑战，需要基于事实和对问题的回答来减缓人工智能的进步。
关键观点3: AI发展的理想配速问题
文章指出，确定AI发展的理想配速是一个难题，因为涉及到一系列相关的经验问题，这些问题本身就很难回答，并且要将它们整合到一个整体框架中更加困难。
关键观点4: 关于安装“刹车”的提议
文章提到了安装一个「刹车」的概念，旨在基于事实和对问题的分析来减缓人工智能的进步。Brundage强调了安装刹车的重要性，并指出这是一个明智的预防措施。
关键观点5: AI发展的挑战和争议焦点
文章总结了Brundage关于AI发展的挑战和争议焦点的观点，包括如何让功能强大的AI系统变得安全、是否有可能超越美国在人工智能方面的领先地位以及人工智能的快速进步是否有助于或损害应对其他重大社会挑战等。
文章预览
新智元报道 编辑：乔杨 【新智元导读】 前段时间离职后留下公开辞职博客的OpenAI六年元老Miles Brundage最近再发一文，讨论了一个相当热门但棘手的问题： 当今的AI发展速度，应该加速、减速还是维持现状？ 10月末，OpenAI在政策研究领域方面的6年元老Miles Brundage离职， 顺便发表了一篇博文，解释自己离职的原因，并直言——我们远远没有为AGI做好准备。 10天后，似乎是觉得这篇文章意犹未尽，Brundage再次发文，题为「AI发展是应该加速、放缓，还是保持不变？」 虽然标题是问句，导读的一句话也充满了不可知论色彩，但文章的结论非常明确——谨慎起见，我们应该为全社会的AI发展安装一个「刹车」。 负责托管维基百科的Chris Albon转发了这篇博客并大力赞赏，将Miles Brundage的内容产出与致力于教育领域创业的Andrej Karpathy相提并论。 现在再加上
………………………………
