手把手教你部署端侧大模型，10月26日相约上海

文章预览

机器之心报道 机器之心编辑部 历经 2023 年的「百模大战」，AI 正在各行业领域沉淀、落地。科技巨头们的比拼焦点正在从把模型越做越大，转向端侧大模型的研发与应用，并成为行业日益关注的焦点。 如果把云端的大模型类比成无所不能的智能，那么端侧的大模型更像是一种无所不在的智能。对于企业来说，如何抓住端侧大模型的热潮，深入挖掘其在各行业的应用潜力，将其与自身业务紧密结合，催生新的增长动力，这不仅是一个战略机遇，也是企业管理者需要深思熟虑的问题。将目光投向实际生产，想要把大模型装进算力有限的终端设备，总会存在一些绕不开的技术难点，如何在有限的计算资源下保持模型性能？如何在电池续航能力有限的情况下降低模型运行的能耗？如何设计蒸馏、剪枝算法为 AI 模型降本增效？ 这时，举办一场详细拆解端 ………………………………