ACL 2024｜PsySafe：跨学科视角下的Agent系统安全性研究

机器之心 · 公众号 · AI · 2024-06-13 19:12

文章预览

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com 本文由上海人工智能实验室联合大连理工大学和中国科技大学完成。通讯作者：邵婧，博士毕业于香港中文大学多媒体实验室MMLab，现任浦江国家实验室大模型安全团队负责人，牵头研究大模型安全可信评测与价值对齐技术。第一作者：张再斌，大连理工大学二年级博士生，研究方向为大模型安全，智能体安全等；张永停，中国科学技术大学二年级硕士生，研究方向，大模型安全，智能体安全，多模态大语言模型安全对齐等。奥本海默曾在新墨西哥州执行曼哈顿计划， ………………………………

原文地址：访问原文地址
快照地址：访问文章快照
总结与预览地址：访问总结与预览

分享到微博

推荐文章

宝玉xp · 不会考察候选人的「AI能力」？你可能招不到未来的人才！你有没有发-20250309120607

昨天

AI范儿 · AI 编程助手 Cursor 洽谈新一轮融资，估值或达 100 亿美元

2 天前

AI范儿 · AI 编程助手 Cursor 洽谈新一轮融资，估值或达 100 亿美元

2 天前

爱可可-爱生活 · 本文创新性地提出了基于强化学习的长度控制策略优化方法 LCPO，-20250308052034

2 天前

宝玉xp · GPT-4.5 的多模态还是挺强的 Gemini 很厉害，Fla-20250307235124

2 天前

黄建同学 · 我理解的授权应该是SSO，这种安全性应该还好（给的是一个中间的t-20250306223349

3 天前

神外资讯 · 【今日19:30直播】Asian Society for Neuro-Oncology SCIENTIFIC WEBINAR

8 月前