专栏名称: 数据派THU
本订阅号是“THU数据派”的姊妹账号,致力于传播大数据价值、培养数据思维。
目录
相关文章推荐
数据派THU  ·  公示 | ... ·  2 天前  
今天看啥  ›  专栏  ›  数据派THU

独家 | 如何为GenAI应用程序选择架构

数据派THU  · 公众号  · 大数据  · 2024-10-25 17:00
    

文章预览

作者:Lak Lakshamanan 翻译:陈之炎 校对:ZRX 本文 约6200字 ,建议阅读 10+分钟 本文将描述一个框架,助力实现多因素之间的平衡。 标签:LLM,智能体,设计模式 选取最简单、最快、最便宜的架构,以平衡LLMs的创造力和风险。 假设希望LLM生成一封感谢信,首先需要查看LLM教程,按照教程中建议的方式调用API,发送提示语,并使用响应。具体可以这样做: 虽然这可以用于实现概念验证(PoCs),但如果将LLM仅视为一个文本转文本(或文本转图像/音频/视频)API并将其投入生产,那么需要兼顾风险、成本和延迟等因素。 解决方案应避免走向极端,通过微调LLM并通过添加护栏来解决过度设计应用程序。目标与其他工程项目一样,根据每个用例的具体情况找到复杂性、适用性、风险、成本和延迟之间的平衡。本文将描述一个框架,助力实现多因素之间的平 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览