主要观点总结
本文介绍了哔哩哔哩大数据团队在基于大语言模型的智能体助手实践方面的分享,包括背景介绍、原理剖析、技术落地、挑战和展望。文章详细阐述了智能诊断助手的设计原理、架构挑战、离线诊断、实时诊断、智能小助手面向的人群等问题。
关键观点总结
关键观点1: 背景介绍
介绍大数据平台整体架构和智能诊断助手的背景。
关键观点2: 原理剖析
分析智能诊断助手的设计原理,包括知识库的构建、架构挑战、精准度问题等。
关键观点3: 技术落地
介绍智能诊断助手在离线诊断和实时诊断中的具体应用,以及智能小助手面向的不同人群。
关键观点4: 挑战和展望
讨论智能诊断助手面临的挑战,如精准度、数据质量、用户问题复杂多样等,以及未来的发展方向,如多专家系统、减少推理延迟、提升产品体验等。
文章预览
导读 本文将分享 B 站基于大语言模型的智能体助手实践。 主要分为四个部分: 1. 背景介绍 2. 原理剖析 3. 技术落地 4. 未来展望 分享嘉宾| 郭跃鹏 哔哩哔哩 软件工程师 编辑整理| 汪维 内容校对|李瑶 出品社区| DataFun 01 背景介绍 1. 整体架构和规模 B 站是一个视频分享平台,拥有海量数据。大数据平台要支撑公司的众多业务,包括 AI、商业等重要应用。 大数据平台整体是一个“五层一体”+“存算分离”的架构,底层是分布式文件系统;中间有智能调度层,以及不同的计算引擎如 Spark、Flink 等,还包括各种客户端,以及实时数据流 Kafka、OLAP 引擎 ClickHouse 等,还有一些自建的工具和 CI/CD 平台。 平台任务量非常大,每天有 27 万个离线任务计算,2 万左右的 Ad-hoc 查询,7000 个左右重要的实时业务。团队的咨询量也非常大,每周有上
………………………………