智能体的现状、风险和影响研判

文章预览

2024年10月，美国安全与新兴技术中心发布人工智能风险研判报告《通过聊天窗口进入现实世界，为智能体做好准备》（Through the Chat Window and Into the Real World：Preparing for AI Agents）。大批初创公司和大型科技公司正在部署构建和销售智能体，这将给社会和经济带来翻天覆地的变化。此前，美国安全与新兴技术中心举办了一场研讨会，探讨了构建智能体的最新进展，以及如果这项技术继续发展，可能产生何种政策影响。本报告总结了研讨会的关键主题和结论，探讨了智能体的定义，分析了其所带来的机遇与挑战，并提出三类应对举措。 一、智能体的定义 基于过往研究， 本报告认为具有更高能动性的人工智能系统应具备四类特征。 一是目标复杂性， 即更具能动性的系统追求复杂、长期的目标，甚至同时追求多种不同的目标，能动性较低的系统则执行个 ………………………………