蚂蚁数科获NeurIPS 2024大模型隐私挑战赛赛道冠军

文章预览

近日， 第三十八届神经信息处理系统年会（NeurIPS 2024）特设官方赛 —— 大语言模型隐私挑战赛（LLM-PC） 圆满落幕。蚂蚁数科旗下摩斯联合浙江大学计算机体系结构实验室共7人组成了“Morse & ARCLab”参赛队伍，荣获该赛事全部两个赛道中 攻击赛道的冠军 和 防御赛道的最佳实用防御奖 。 NeurIPS是机器学习领域三大旗舰会议之一，也是中国计算机学会A类推荐会议。该比赛冠军方案也代表着当前业界领先技术方案。 随着大模型在各行各业的快速应用，大模型的数据安全与隐私保护问题也日益凸显。在大模型的训练、微调和推理全过程中，都可能会导致用户的个人隐私及企业核心数据等重要敏感信息泄漏。保护大模型的数据隐私安全，已经成为业内十分关注的议题。  该挑战赛是本届NeurIPS特设官方竞赛，参赛者的任务是设计与实现创新解决方案，从 ………………………………