你的Agent稳定吗？——基于大模型的AI工程实践思考

主要观点总结

本文总结了作者在盒马智能客服的落地场景下的思考，从工程的角度阐述了Agent应用的重要稳定性因素和一些解法。文章介绍了Agent的简单介绍，以及在业务场景中面临的稳定性问题，包括幻觉问题、语料质量问题、工程重试和异常处理问题等。同时，文章还探讨了解决这些问题的方法，如RAG增强、补充记忆信息、工程优化、语料质量提升、异常处理等方面。最后，文章强调了监控的重要性，并介绍了一些监控的方法。

关键观点总结

关键观点1: Agent应用的稳定性因素

本文从工程角度阐述了Agent应用的重要稳定性因素，包括幻觉问题、语料质量问题、工程重试和异常处理等方面。针对这些问题，本文介绍了相应的解决方法和实践案例。

关键观点2: RAG增强和记忆补充

本文介绍了通过RAG增强和补充记忆信息来解决Agent面临的稳定性问题的方法。其中包括使用基于知识召回的RAG，通过prompt提示和语料训练等方式提高Agent的准确性和稳定性。

关键观点3: 工程优化和语料质量提升

本文探讨了工程优化和语料质量提升在解决Agent稳定性问题中的重要作用。包括查询重写、知识库优化、语言化处理和打标体系等方法，提高Agent的效果和响应速度。

关键观点4: 异常处理和监控

本文强调了异常处理和监控在Agent应用中的重要性，并介绍了一些常见的异常处理方法和监控手段。包括控制循环轮数、合理的尝试、兜底策略、人工托管和输出格式兼容等方面。

文章预览

阿里妹导读 本文总结了作者在盒马智能客服的落地场景下的一些思考，从工程的角度阐述对Agent应用重要的稳定性因素和一些解法。 一、背景 随着大模型技术的发展，越来越多的大模型应用开始涌现，并且应用到越来越多的业务场景中，比如AIGC生图、小蜜机器人、客服机器人、自动文档处理等等；并且Agent的planning能力使得基于大模型的底座，AI应用可以处理越来越高级的事情。 但是随着大模型的广泛应用，在面对各种复杂的场景时，其稳定问题也变得凸显，比如Agent的回答幻觉问题、知识语料训练质量问题、工程重试和异常处理问题，都对Agent的稳定性有影响；当然基座的能力也至关重要，但是本人从工程的角度来阐述同样对Agent应用重要的稳定性因素和一些解法。 本人目前在参与盒马AI智能应用的项目中，包括智能小蜜机器人、智能客服、AIGC ………………………………