3D - 今天看啥

【ml-engineering 翻译系列】计算加速器之gpu 审核中

GiantPandaCV · 公众号 · 3D · 4 天前 · 访问文章快照

图解OpenRLHF中基于Ray的分布式训练流程审核中

GiantPandaCV · 公众号 · 3D · 6 天前 · 访问文章快照

GTX 4090 的 cuda graph 诡异

GiantPandaCV · 公众号 · 3D · 1 周前 · 访问文章快照

PyTorch 通讯实践审核失败

GiantPandaCV · 公众号 · 3D · 1 周前 · 访问文章快照

CUDA-MODE 课程笔记第29课 Triton内部机制审核中

GiantPandaCV · 公众号 · 3D · 1 周前 · 访问文章快照

ModelServer：基于 SGLang 的前端分发系统审核中

GiantPandaCV · 公众号 · 3D · 2 周前 · 访问文章快照

如何正确理解NVIDIA GPU利用率的概念

GiantPandaCV · 公众号 · 3D · 2 周前 · 访问文章快照

RMSNorm的精度陷阱：记一次LLM推理精度调查审核中

GiantPandaCV · 公众号 · 3D · 2 周前 · 访问文章快照

图解大模型训练系列：序列并行4，Megatron Context Parallel 审核中

GiantPandaCV · 公众号 · 3D · 2 周前 · 访问文章快照

CUDA-MODE 课程笔记第28课用在生产环境中的LinkedIn Liger kernel 审核中

GiantPandaCV · 公众号 · 3D · 3 周前 · 访问文章快照

GPU 矩阵乘实际可达最大FLOPS测量工具审核中

GiantPandaCV · 公众号 · 3D · 3 周前 · 访问文章快照

强推理模型书生InternThinker开放体验：自主生成高智力密度数据、具备元动作思考能力｜通专融合探索新进展审核中

GiantPandaCV · 公众号 · 3D · 3 周前 · 访问文章快照

NCCL 与 NVIDIA TOPO 审核中

GiantPandaCV · 公众号 · 3D · 3 周前 · 访问文章快照

基于 chunked prefill 理解 prefill 和 decode 的计算特性审核中

GiantPandaCV · 公众号 · 3D · 4 周前 · 访问文章快照