「大模型安全挑战赛」预告

文章预览

大模型智能｜分享 来源 | THU基础模型 在大模型技术蓬勃发展的背景下，大模型潜在的安全风险与隐患也日益凸显，引起了国内外的广泛关注和担忧。确保大模型准确响应用户指令并保证输出内容的安全合规性，对于其在实际业务场景中的应用至关重要。 然而，大模型在实际应用中面临着任务指令被劫持的风险，可能导致模型无法按照用户的特定要求执行任务，从而严重降低其实用性。 此外，大模型还可能生成隐晦的不安全内容，这些内容可能规避内容安全检测模型的识别，从而导致不安全内容的输出。这两大安全问题极大限制了大模型在各种业务环境中的有效性和可靠性。 赛事概况 针对前述问题， 中国计算机学会（CCF） 作为主办单位， 中国计算机学会 大模型论坛（CCF FoLM） 作为承办单位，携手 清华大学基础模型研究中心 开展大模型安全挑 ………………………………