107期北京源创会【高性能计算与大模型推理】精彩回顾

文章预览

OSCHINA ↑点击蓝字 关注我们 10 月 25 日，第 107 期源创会在北京成功举办。 本期邀请来自华为昇思 MindSpore、AI 应用使能套件，Thoughtworks，BentoML，趋境科技的技术大咖、布道师发表主题演讲。接下来一 起看看活动的精彩内容吧！ 主题演讲回顾 企业在大模型应用落地过程中面临的推理困境与应对策略 Thoughtworks 数据与人工智能解决方案总监张晶白发表了《企业在大模型应用落地过程中面临的推理困境与应对策略》主题分享。张晶白总结了大模型在专业领域中落地时会遇到的困境：首先，大模型难以理解特定的业务流程，因为其训练数据主要是通用和公开市场数据，缺乏对特定企业数据的了解；第二，数据隐私和安全也是关键问题，企业内部的敏感信息不可能公开给大模型学习；第三，面对复杂的应用场景，往往需要结合多个模型来解决，如何适配和 ………………………………