翁荔B站分享原文：AI安全与“培养”之道

主要观点总结

OpenAI华人研究副总裁翁荔离职，她在B站分享了关于AI安全和“培养”之道的演讲。翁荔的演讲主要围绕AI安全展开，强调了AI安全的重要性以及如何让AI更加聪明和安全的方法。同时，OpenAI在安全方面备受争议，其AGI筹备团队负责人和首席科学家相继离职。本文还参考了其他文章，介绍了抖音集团数据血缘深度应用、人工智能在汽车智能化领域的创新应用等话题。

关键观点总结

关键观点1: 翁荔离职

OpenAI华人研究副总裁翁荔离职，她是北大校友，曾在国内大型活动上公开发表AI主题演讲。

关键观点2: 翁荔的演讲内容

翁荔的演讲主要关于AI安全和“培养”之道，她强调了AI安全不仅仅是研究者的责任，需要每个人的参与。她还介绍了如何通过群体智慧、强化学习等技术来培育出既聪明又安全的AI。

关键观点3: OpenAI的安全争议

OpenAI在安全方面备受争议，其AGI筹备团队负责人和首席科学家相继离职。有报道称，最近几年OpenAI已经不惜内部文化，把“吸引眼球的产品”放在安全准则之前。

文章预览

导读   就在昨天，那个掌管OpenAI安全的北大校友，OpenAI研究副总裁（安全） 翁荔 ，离职了。 详细内容： OpenAI华人VP翁荔离职：北大校友，掌管安全，最近B站分享被热议 在此前：OpenAI研究副总裁（安全） 翁荔（Lilian Weng） ， 曾现 身国内， 还首次在国内大型活动场合公开发表AI主题演讲。 以下我们提供全文。 在 2024Bilibili超级科学晚活动 上，翁荔站在舞台上，以《AI安全与“培养”之道》为主题进行了演讲分享。 演讲并不十分深奥，主要以科普向为主，但深入浅出，介绍了AI安全相关种种问题。 她表示： AI的安全不仅仅是研究者的责任，它需要每一个人的参与。 （以下是翁荔演讲全文，在不改变其原意的基础上略有删减。） 01 翁荔演讲全文 今天先与大家探讨一个既深刻又有趣的话题， 「AI 安全」 ，以及 「我们如何像培养下一代一样，培育出 ………………………………