专栏名称: 百度AI
百度AI最新产品、产业案例、实时资讯在这里。 百度是为数不多进行全栈布局的人工智能公司。从高端芯片昆仑芯,到飞桨深度学习框架,再到文心预训练大模型,各个层面都有领先业界的关键自研技术,可以实现端到端优化,大幅提升效率。
今天看啥  ›  专栏  ›  百度AI

统一多场景自动编译加速——支持动态shape场景,一套架构搞定训推需求

百度AI  · 公众号  ·  · 2024-08-07 20:23
    

文章预览

为了让飞桨开发者们掌握第一手技术动态、让企业落地更加高效,飞桨官方在7月至10月特设《飞桨框架3.0全面解析》系列技术稿件及直播课程。技术解析加代码实战,带大家掌握包括核心框架、分布式计算、产业级大模型套件及低代码工具、前沿科学计算技术案例等多个方面的框架技术及大模型训推优化经验。 本文是该系列第三篇技术解读,文末附对应直播课程详情。  01    前言  近些年,在深度学习场景如何更好的 借助编译器技术来提升任务表现 变得越来越重要,在工业界和学术界均有大量基于编译器技术的探索和落地。为什么 深度学习场景非常依赖编译器技术 ,整体趋势上的有3大原因: 1) 硬件发展趋势: 结合硬件发展历史和技术演进特点,算力发展速度远大于访存性能、CPU 性能和总线带宽;其中访存性能影响访存密集型算子(norm 类, ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览