OpenAI 宣布成立安全委员会，暗示下一个模型正在训练

文章预览

在最近的一项举措中，OpenAI 宣布成立了一个新的安全与安保委员会，旨在为其所有项目提供关键安全和安保决策的建议。 这一新成立的委员会由董事 Bret Taylor（主席）、Adam D’Angelo、Nicole Seligman 和首席执行官 Sam Altman 领导。委员会的首要任务是在接下来的 90 天内评估并进一步发展 OpenAI 的流程和保障措施。 委员会其实不是重点，而是为何要推出委员会呢？因为 OpenAI 最近开始训练其下一代前沿模型，“ 预计这些系统将使我们在通往人工通用智能（AGI）的道路上迈向新的能力水平 ”。 OpenAI 以构建并发布在能力和安全性上均处于行业领先地位的模型而自豪，但在这一重要时刻，公司欢迎进行充分的辩论。 技术和政策专家 Aleksander Madry（准备工作负责人）、Lilian Weng（安全系统负责人）、John Schulman（对齐科学负责人）、Matt Knight（安全负责人）和 Jak ………………………………