「大模型安全挑战赛」来袭！

文章预览

MLNLP 社区是国内外知名的机器学习与自然语言处理社区，受众覆盖国内外NLP硕博生、高校老师以及企业研究人员。 社区的愿景 是促进国内外自然语言处理，机器学习学术界、产业界和广大爱好者之间的交流和进步，特别是初学者同学们的进步。 转载自 | THU基础模型 在大模型技术蓬勃发展的背景下，大模型潜在的安全风险与隐患也日益凸显，引起了国内外的广泛关注和担忧。确保大模型准确响应用户指令并保证输出内容的安全合规性，对于其在实际业务场景中的应用至关重要。 然而，大模型在实际应用中面临着任务指令被劫持的风险，可能导致模型无法按照用户的特定要求执行任务，从而严重降低其实用性。 此外，大模型还可能生成隐晦的不安全内容，这些内容可能规避内容安全检测模型的识别，从而导致不安全内容的输出。这两大安全问题极 ………………………………