OpenAI向1亿ChatGPT用户，公开10种安全措施

文章预览

专注AIGC领域的专业社区，关注微软 、百度文心一言、讯飞星火等大语言模型（LLM）的发展和 应用 落地，聚焦LLM的市场研究和AIGC开发者生态，欢迎关注！ OpenAI为了保证全球超过1亿的ChatGPT和数百万开发人员，能以安全、稳定的方式使用其产品，更新了安全策略和保护措施。 以下是OpenAI最近更新的10种安全策略，并且会在首尔AI安全峰会上与更多的科学家、政务部门分享。 模型测试与发布前评估： 在发布前，OpenAI会准备框架和自愿承诺，对模型安全性进行内部和外部的实证评估。如果新模型的风险等级达到准备框架中的“中等”风险阈值，将不会发布该模型，直到实施足够的安全干预措施，将风险等级降低回“中等”。 例如，在发布GPT-4o时，超过70位外部专家帮助OpenAI通过外部红队努力评估相关的风险。这种评估不仅包括公司内部的审核，还包括 ………………………………