负责任的生成式AI：设计基于基础模型智体的参考架构

文章预览

24年4月来自澳大利亚科学局 CSIRO Data61的论文“Towards Responsible Generative AI: A Reference Architecture For Designing Foundation Model Based Agents”。 基础模型，例如大语言模型 (LLM)，因其能够理解和生成内容（包括具有推理能力的规划）而被广泛认为是变革性的 AI 技术。基于基础模型智体的自主性，源自基础模型的功能，这使它们能够自主地将给定目标分解为一组可管理的任务并协调任务执行以实现目标。尽管在构建基于基础模型智体方面付出了巨大努力，但尚未系统地探索智体的架构设计。此外，虽然使用智体进行规划和执行具有显着的好处，但对于负责任的 AI 相关软件质量属性（例如安全性和问责制），仍需要认真考虑。因此，本文提出一种面向模式的参考架构，可在设计基于基础模型智体时作为指导。 基础模型 (FM) [1]经过大量数据的预训练，可以适应执行 ………………………………