直播预告 | 复旦大学白泽智能团队：大模型安全的前沿进展与挑战

主要观点总结

这篇文章是关于AI安全领域的直播活动介绍，主题是“大模型安全生态总览：前沿进展与挑战”。活动将于2024年10月26日通过PaperWeekly视频号进行直播。嘉宾包括复旦大学白泽智能团队的两位博士生黄元敏和陆逸凡，他们将解读大模型与智能体安全的相关内容，包括安全风险及应对策略，大模型的商业化进展及发展趋势，以及模型水印和知识产权保护等议题。

关键观点总结

关键观点1: 直播活动信息

文章介绍了一场关于大模型安全生态的直播活动，包括直播主题、嘉宾、直播时间和观看方式。

关键观点2: 报告内容

报告将聚焦大模型与智能体面临的安全风险及应对策略，包括大模型的商业化进展及发展趋势，以及模型水印和知识产权保护等议题。

关键观点3: 嘉宾介绍

嘉宾包括复旦大学白泽智能团队的两位博士生黄元敏和陆逸凡，他们分别在深度学习模型的鲁棒性问题和深度学习系统的知识产权保护方面进行研究。

文章预览

 AI安全说 第6期  嘉宾在线解读 ✔️ 在线实时Q ✔️  直播主题  大模型安全生态总览： 前沿进展与挑战  直播嘉宾  黄元敏 复旦大学在读博士生 陆逸凡 复旦大学在读 博士生  直播时间  2024年10月26日（周六） 19:30-21:00  观看方式  PaperWeekly视频号 PaperWeekly B站直播间 一键预约直播 ▼  报告介绍  01 大模型与智能体安全 近年来，大模型技术的飞速发展已经深刻改变了自然语言处理任务的处理方式，并推动了基于大模型的智能体应用的广泛发展。 本次 talk 将聚焦大模型与智能体面临的多种安全风险及相应的应对策略。首先，会介绍复旦白泽智能团队在大模型安全评测与防护方面的系列研究工作 JADE，包括自动化大模型安全评测、能够同时提升安全性和有用性的大模型安全微调等。 接着，报告将探讨近期国内外智能体技术的发展及其相关安全研究 ………………………………