专栏名称: 飞桨PaddlePaddle
源于产业实践的开源深度学习平台
目录
今天看啥  ›  专栏  ›  飞桨PaddlePaddle

统一多场景自动编译加速——支持动态shape场景,一套架构搞定训推需求

飞桨PaddlePaddle  · 公众号  ·  · 2024-08-07 20:07

文章预览

为了让飞桨开发者们掌握第一手技术动态、让企业落地更加高效,飞桨官方在7月至10月特设《飞桨框架3.0全面解析》系列技术稿件及直播课程。技术解析加代码实战,带大家掌握包括核心框架、分布式计算、产业级大模型套件及低代码工具、前沿科学计算技术案例等多个方面的框架技术及大模型训推优化经验。 本文是该系列第三篇技术解读,文末附对应直播课程详情。 近些年,在深度学习场景如何更好的 借助编译器技术来提升任务表现 变得越来越重要,在工业界和学术界均有大量基于编译器技术的探索和落地。为什么 深度学习场景非常依赖编译器技术 ,整体趋势上的有3大原因: 1)硬件发展趋势 :结合硬件发展历史和技术演进特点,算力发展速度远大于访存性能、CPU性能和总线带宽;其中访存性能影响访存密集型算子(norm类,activation等)性能 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览