专栏名称: 歸藏的AI工具箱
互联网科技博主 产品设计师、模型设计师、 不会代码的独立开发者。 关注人工智能、LLM 、 Stable Diffusion 和设计。
今天看啥  ›  专栏  ›  歸藏的AI工具箱

Deepseek 开源周第二发,又跟老黄干上了DeepEP :首-20250225105637

歸藏的AI工具箱  · 微博  ·  · 2025-02-25 10:56
    

文章预览

2025-02-25 10:56 本条微博链接 Deepseek 开源周第二发,又跟老黄干上了 DeepEP :首个面向MoE模型的开源EP通信库 支持实现了混合专家模型训练推理的全栈优化!! 具体包括: #AI创造营# #deepseek# 高效且优化的全到全通信 支持节点内和节点间通信,兼容 NVLink 和 RDMA 用于训练和推理预填充的高吞吐量内核 用于推理解码的低延迟内核 原生 FP8 调度支持 灵活的 GPU 资源控制,实现计算与通信的重叠 项目地址: 网页链接 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览