开源周第1日：Deepseek发布FlashMLA

文章预览

原文：荣幸分享 FlashMLA——我们为 Hopper GPU 优化的高效 MLA 解码内核，针对可变长度序列进行优化，现已投入生产。 支持 BF16 分页键值缓存（块大小 64） 3000 GB/s 内存绑定 \x26amp;amp; 580 TFLOPS 计算绑定在 H800 GitHub地址 ：https://github.com/deepseek-ai/FlashMLA ………………………………