专栏名称: 电子工程专辑
电子工程专辑是中国创建较早的电子工程类网站,是《电子工程专辑》杂志的有力补充。专注为工程师提供最新技术及实用方法的专业平台。包括:16个热门技术栏目在内的,新品信息和新闻报道、专题报道以及厂商应用报告、行业重要新闻的信息速递。
今天看啥  ›  专栏  ›  电子工程专辑

加速国产GPU开发!摩尔线程又开源啦

电子工程专辑  · 公众号  ·  · 2024-11-13 14:47
    

文章预览

摩尔线程宣布,正式开源高性能线性代数模板库MUTLASS,以便开发者能够更高效地针对摩尔线程GPU MUSA Core、Tensor Core等单元进行编程,加速基于国产GPU的算子开发以及算法创新。 在此之前,摩尔线程已经相继开源 OpenCV-MUSA计算机视觉库 、 MooER音频理解大模型、vLLM-MUSA大语言模型高速推理框架。 ▼ MUTLASS开源地址: https://github.com/MooreThreads/mutlass 在数值计算和深度学习领域,矩阵乘法(GEMM)及其变种,比如FlashAttention、Convolution,是构建复杂上层应用的基石。 不够,为了追求更高的算子融合效率,或者更创新的算法,开发者们往往需要超越标准化计算接口的限制,如标准BLAS接口以及芯片厂商的计算库接口,以实现高性能的定制化算子。 MUTLASS(MUSA Templates for Linear Algebra Subroutines)正是为满足这一需求而设计。 作为摩尔线程专为自研MUSA架构优化的高性 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览