GPU 权衡系列：A100 并不比 4090 强大多少🫠GPU-20240916144354

文章预览

2024-09-16 14:43 本条微博链接 GPU 权衡系列：A100 并不比 4090 强大多少🫠 GPU 性能和价格： - 4090：330 fp16 TFLOP，1,749 美元 - A100（80GB）：312 fp16 TFLOP，20,000 美元 A100 价格高出 11.4 倍 使用 llm.c 进行 GPT-2 (124M) 的训练速度： - 4090：153K 令牌/秒 - A100 (80GB): 195K 令牌/秒 A100 仅快 1.3 倍 （均使用单卡进行训练，视频中展示了 A100 llm.c 训练，引用的推文中展示了 4090 视频） 结论： 4090 具有更好的性价比 为什么： 与 H100 与 4090 的比较一 ………………………………