AI Agents有哪些风险？哪些措施可以减少风险？

文章预览

引言 许多人工智能开发者正在创建具有更高自主性、能够访问外部工具或服务，并在可靠适应、规划和开放式长期行动以实现目标方面能力更强的系统。我们将这类系统视为具有相对较高程度的代理性，并将它们称为（人工智能）代理或具有代理性的系统。相对较低程度的代理性系统仅辅助人类决策或在没有与世界互动的情况下产生输出，例如图像分类器或文本到图像模型。代理的例子可能包括与真实世界广泛互动的强化学习系统，或者能够访问工具或服务的更高级语言模型，例如，它们可以代表用户计划并预订假期或发送电子邮件。 当前的人工智能代理有时甚至会难以执行简单任务，但鉴于对人工智能研究的不断增加的投资，扩展法则，开发自主能力以用于军事用途的压力，以及在经济应用和科学声望的推动下，我们不能低估其能力持续提升 ………………………………