三十万奖金，CCF「大模型安全挑战赛」火热报名中

文章预览

 Datawhale赛事  主办单位：中国计算机学会 （CCF） 「Z计划」   是 智谱 AI  面向 未上市初创企业与优秀独立开发者/团队，提供 Tokens  赞助、投资支持和技术支持等资源的创新加速计划。 面向全球，持续招募中！🐋（点击报名） 。CCF大模型论坛是CCF中国计算机学会下设组织，关心大模型技术发展与实践应用，Z计划特此支持。 在大模型技术蓬勃发展的背景下，大模型潜在的安全风险与隐患也日益凸显，引起了国内外的广泛关注和担忧。 确保大模型准确响应用户指令并保证输出内容的安全合规性，对于其在实际业务场景中的应用至关重要。 然而，大模型在实际应用中面临着任务指令被劫持的风险，可能导致模型无法按照用户的特定要求执行任务，从而严重降低其实用性。 此外，大模型还可能生成隐晦的不安全内容，这些内容可能规避内容安全检 ………………………………